ChatGPT-ს ფსიქოლოგიურ პრობლემებზე მილიონობით ადამიანი ესაუბრება — OpenAI ცვლილებებს იწყებს

OpenAI-მ ზუსტად ის ციფრი გამოააშკარავა, რომლისაც ძალიან ეშინოდათ მენტალური ჯანმრთელობის ექსპერტებს — როგორც აღმოჩნდა, ფსიქოლოგიური კრიზისის შემთხვევებში მილიონობით ადამიანი მიმართავს ჩეტბოტს.
უსაფრთხოების უახლეს მოხსენებაში კომპანიამ დაახლოებით 3 მილიონი ChatGPT-ის ყოველკვირეული მომხმარებელი დაითვალა, რომლებიც ფსიქიკური აშლილობისა თუ მენტალურ ჯანმრთელობასთან დაკავშირებულ გადაუდებელი საჭიროების ნიშნებს აჩვენებდნენ, მათ შორის სუიციდურ აზრებს, ფსიქოზისა და მანიაკალურ სიმპტომებს.
აღნიშნული OpenAI-ის შიდა მონაცემებსა და მოდელის მონიტორინგის ხელსაწყოებს ეფუძნება. შედეგად კი გვთავაზობს, რომ აქტიური მომხმარებლების 0.15% სუიციდურ აზრებს გამოხატავს, ხოლო 0.07% ფსიქოზისა და მანიაკალური სინდრომის ნიშნებს ავლენს. საინტერესო მაჩვენებელია ემოციური დამოკიდებულების თვალსაზრისითაც — 0.15% ჩეტბოტზე დამოკიდებულია. თუმცა უმნიშვნელო პროცენტობებად ნუ მოგეჩვენებათ — ChatGPT-ის ყოველკვირეული მომხმარებლების რაოდენობა 800 მილიონს აჭარბებს, შესაბამისად, ზემოთ მოცემული სტატისტიკა პირდაპირ უნდა თარგმნოთ მილიონობით ადამიანად.
OpenAI-ს თუ დავუჯერებთ, მოდელები ახლა უკვე ისე გაწვრთნა, რომ უკეთ დაადგინოს მაღალი რისკის შემცველი შემთხვევები. ახლა მსგავს მომხმარებლებთან საუბრებს კი აღარ აგრძელებს, არამედ მათ პირდაპირ კრიზისული სიტუაციების ცხელ ხაზებსა და პროფესიული რესურსებისკენ ამისამართებს.
განახლება კი რამდენიმეთვიანი შიდა ტესტირებისა და თითქმის 170 ფსიქოლოგთან კონსულტაციის შედეგად შემოგვთავაზეს. მათი უკუკავშირის საფუძველზე შეიცვალა ChatGPT-ის ტონი, კონტენტის მოდერაცია თუ ინტერვენციის სტრატეგიები. დამცავი ბარიერებიც შეიქმნა როლური თამაშების მავნე სცენარების ვალიდაციისა და ბოდვების აღსაკვეთად. ახლა კი OpenAI აცხადებს, რომ ამ რედაქტირებებმა კლინიკურ კვლევებში შეუსაბამო ან არასაკმარისი პასუხები 80%-მდე შეამცირა!
მართალია, ჩეტბოტი ახლა უფრო თვალსაჩინო მხარდაჭერას გვთავაზობს კრიზისულ პერიოდში და ცდილობს, ხელოვნურ ინტელექტზე სამედიცინო დამოკიდებულებაც აღკვეთოს, მაგრამ მსგავსი მონაცემები მაინც ბადებს კითხვებს პასუხისმგებლობასთან დაკავშირებით იმ ეპოქაში, სადაც ტექნოლოგია ემოციური დისტრესის პირველი შეხების წერტილი გახდა. ამგვარად, ChatGPT-ის მსგავს ინსტრუმენტებს მიდგომების დახვეწა მოუწევთ, რადგან AI ყოველდღიურობის ნაწილი ხდება…
marketer.ge