რამდენად გვეხმარება ექიმის ნაცვლად? — მოწინავე სამედიცინო ჟურნალი რისკებზე გვაფრთხილებს

ფოტო: Getty / Futurism
9
წაკითხვა
ცოტა ხნის წინ კვლევით დაადგინეს, რომ მილიონობით ამერიკელი სამედიცინო რჩევისათვის ხელოვნური ინტელექტის () ჩატბოტებს მიმართავს, ნაცვლად ექიმისა.
ეს იმის ფონზე, რომ მკვლევრები მსგავს ინსტრუმენტებში სერიოზულ ხარვეზებს ამჩნევენ. დიდ ენობრივ მოდელებზე (LLM) მომუშავე ეს ჩატბოტები სამედიცინო ინფორმაციის შეჯამებაში გვეხმარება და ჩვენი მოკლე მითითებების საფუძველზე რჩევებსაც გვაძლევს ჯანმრთელობაზე, თუმცა ჰალუცინაციები AI ჩატბოტებში კვლავაც გადაუჭრელი პრობლემაა — შეიძლება ბოტმა დეტალური კლინიკური დასკვნები დაგვიწეროს იმ ფოტოს მიხედვით, რომელიც არც კი მიგვიწოდებია ანდა შეიძლება მოტყუვდეს ყალბი დიაგნოზებით, რომლებიც მეცნიერებმა მათ გასაცურებლად შექმნეს.
მკვლევრები ბჭობენ, საერთოდ თუ უნდა გამოიყენონ AI სამედიცინო მიზნებით ინდივიდუალურად ან სისტემურ დონეზე — განსაკუთრებით იმის ფონზე, რომ მისგან მიღებული რეალური სარგებლის არსებობა მაინცდამაინც არ დასტურდება. ყოველ შემთხვევაში, ამას გვეუბნება ჟურნალში Nature Medicine გამოქვეყნებული ახალი სარედაქციო სტატია, რომლის თანახმადაც: “მწირია მტკიცებულებები იმისა, რომ AI ინსტრუმენტები პაციენტებისთვის, სამედიცინო მუშაკებისა თუ ჯანდაცვის სისტემისთვის რაიმე ღირებულებას ქმნიდეს”.
“მიუხედავად ამისა, პუბლიკაციებსა და პროდუქტების აღწერილობებში სულ უფრო ხშირად გვხვდება განაცხადები მათ კლინიკურ ეფექტიანობაზე, თუმცა არ არსებობს მკაფიო შეთანხმება იმაზე, თუ რა დონის მტკიცებულებებია საჭირო, რომ მსგავსი მტკიცებები სარწმუნოდ მივიჩნიოთ”, — ნათქვამია სარედაქციო სტატიაში — “შედეგად არა მხოლოდ სამეცნიერო ბუნდოვანებას, არამედ ტექნოლოგიის ნაადრევ დანერგვასა და შეთვისებას ვიღებთ”.
შესაბამისად, სტატია სამეცნიერო საზოგადოებას ერთგვარი ჩარჩოს შექმნისაკენ მოუწოდებს, რომელიც განსაზღვრავს, “როგორ უნდა შეფასდეს AI სამედიცინო ტექნოლოგიები, რა საზომებით და რომელი სტანდარტებით. ავტორთა აზრით, ეს “სასწრაფოდ არის საჭირო”.
AI ინსტრუმენტები ექსპერიმენტულ პირობებში ხშირად საკმაოდ გამართულ სამედიცინო რჩევებს იძლევა, თუმცა რეალურ სიტუაციებში ეს უჭირს. ჟურნალში JAMA Medicine გამოქვეყნებული ახალი კვლევის მიხედვით, შედარებით ბუნდოვანი სიმპტომების აღწერისას მოწინავე AI მოდელები სწორ დიაგნოზს შემთხვევათა დაახლოებით 80%-ში ვერ სვამს.
კლინიკურ კვლევებში AI-ს გამოყენების საკითხი ჯერაც სადავოა. LLM-ებს კარგად შეუძლია მონაცემების შეჯამება თუ ანალიზი და ჩვენს კითხვებზე პასუხი, თუმცა მკვლევრები გვაფრთხილებენ, რომ მათ სერიოზულ შეზღუდვებზე თვალი არ უნდა დავხუჭოთ.
“ვფიქრობ, AI შეიძლება ბევრი მოსაწყენი და რთული პროცესის დაჩქარებაში დაგვეხმაროს; შეიძლება მონაცემთა ანალიზისთვის კოდის წერაში დაგვეხმაროს და სცენარებიც კი შემოგვთავაზოს”, — განაცხადა ჯეიმი რობერტსონმა, ჰარვარდის სამედიცინო სკოლის ასისტენტ-პროფესორმა, გასულ წელს — “თუმცა ძალიან მნიშვნელოვანია, რომ იმ ადამიანებმა, რომლებსაც AI-სთან კლინიკური კვლევების ფარგლებში აქვთ შეხება, მათი სწორი და არასწორი გამოყენების გზებზე გათვითცნობიერებულნი იყვნენ და ეს სწორ კონტექსტში აკეთონ”.
მეცნიერები შიშობენ, რომ AI ინსტრუმენტებზე გადამეტებულმა დამოკიდებულებამ შეიძლება სამეცნიერო სიზუსტე შელახოს; ეს იმის რისკს ზრდის, რომ მედიცინაში ზედმეტად განზოგადებული — და პოტენციურად AI-ს “მოგონილი” — მონაცემები მომრავლდება.
ალმირა ოსმანოვიჩ თუნსტრომმა, გოტენბურგის უნივერსიტეტის მედიცინის მკვლევარმა, ამის საინტერესო დემონსტრაცია შემოგვთავაზა. მან ორი ყალბი კვლევა ატვირთა პრეპრინტების სერვერზე LLM-ების მოსატყუებლად, თითქოსდა კანის გამოგონილი დაავადება რეალური იყო. რეფერირებად ჟურნალებში მალე ნაშრომები გამოქვეყნდა (ისინი უკვე გაიწვიეს უკან), რომლებშიც ყალბი პრეპრინტები ჰქონდათ დამოწმებული. ცხადია, ამან ნაშრომების ვალიდურობა ეჭვქვეშ დააყენა.
“პროგრესის შემდეგი ეტაპი არა მხოლოდ უკეთეს მოდელებსა და ახალ აპლიკაციებზე იქნება დამოკიდებული, არამედ უფრო მკაფიო მოლოდინებზე იმის შესახებ, თუ როგორ უნდა განისაზღვროს, შეფასდეს და გადმოიცეს კლინიკური ეფექტი”, — ვკითხულობთ Nature Medicine-ის სარედაქციო სტატიის დასკვნაში — “განაცხადებსა და მტკიცებულებებს შორის თუ მკაფიო კავშირი არ იქნება, არსებობს რისკი, რომ სამედიცინო სფეროში AI მანამ დაინერგოს, სანამ მისი რეალური ღირებულების გააზრებას შევძლებთ”.
თუ სტატიაში განხილული თემა და ხელოვნური ინტელექტის სფერო შენთვის საინტერესოა, შემოგვიერთდი ჯგუფში, სადაც ვლაპარაკობთ ხელოვნურ ინტელექტზე.
კომენტარები
კვირის ტოპ-5
NASA-ს მავალმა მარსზე უჩვეულო ქვები დააფიქსირა, რომლებიც რეპტილიის ქერცლებს ჰგავს3191 ნახვა
ეგვიპტეში აღმოაჩინეს მუმია, რომელსაც მუცელში ჰომეროსის “ილიადის” ფრაგმენტი ედო1341 ნახვა
სად მთავრდება ირმის ნახტომი? — მეცნიერები შესაძლო პასუხს გვთავაზობენ923 ნახვა
NASA-ს მავალმა მარსზე სიცოცხლის “საშენი მასალა” აღმოაჩინა — ახალი ექსპერიმენტი668 ნახვა
მეცნიერებმა ქარვაში 35 მილიონი წლის წინ გაქვავებული უცნაური ობობასნაირი აღმოაჩინეს486 ნახვა
გირჩევთ
გადახედვა

OpenAI-მ ხელოვნური ინტელექტის “ყველაზე ჭკვიანი და ინტუიციური” მოდელი გამოუშვა — გაიცანით GPT-5.5
OpenAI-მ ხელოვნური ინტელექტის “ყველაზე ჭკვიანი და ინტუიციური” მოდელი გამოუშვა — გაიცანით GPT-5.5
გადახედვა
Paleo
გამოავლინეს პრეისტორიული გიგანტური რვაფეხა, რომელიც 19 მეტრამდე იზრდებოდა
გამოავლინეს პრეისტორიული გიგანტური რვაფეხა, რომელიც 19 მეტრამდე იზრდებოდა
გადახედვა

უცნობმა დაჯგუფებამ Anthropic-ის “სახიფათო” AI მოდელში შეაღწია — რა ვიცით
უცნობმა დაჯგუფებამ Anthropic-ის “სახიფათო” AI მოდელში შეაღწია — რა ვიცით
გადახედვა
ადამიანი
მეცნიერებმა “ყველაზე მომაკვდინებელი” კიბოს ვაქცინა შექმნეს: პირველადი შედეგები იმედისმომცემია
მეცნიერებმა “ყველაზე მომაკვდინებელი” კიბოს ვაქცინა შექმნეს: პირველადი შედეგები იმედისმომცემია
გადახედვა
ხელოვნური ინტელექტი
OpenAI-მ სურათების ახალი გენერატორი გამოუშვა — რა შეუძლია Images 2.0-ს
OpenAI-მ სურათების ახალი გენერატორი გამოუშვა — რა შეუძლია Images 2.0-ს
გადახედვა
ხელოვნური ინტელექტი
ნახეთ: მარათონში ჩინურმა რობოტმა ადამიანის რეკორდიც კი მოხსნა
ნახეთ: მარათონში ჩინურმა რობოტმა ადამიანის რეკორდიც კი მოხსნა
გადახედვა
ხელოვნური ინტელექტი
რა ემართება ჩვენს აზროვნებას, როცა საქმეში ხელოვნურ ინტელექტს ვიყენებთ? — კვლევა
რა ემართება ჩვენს აზროვნებას, როცა საქმეში ხელოვნურ ინტელექტს ვიყენებთ? — კვლევა
გადახედვა
ადამიანი
როგორ განსაზღვრავს “ბნელი მხარე” ჩვენს კარიერას
როგორ განსაზღვრავს “ბნელი მხარე” ჩვენს კარიერას
გადახედვა
ტექნიკა
შექმნეს ბატარეა, რომელიც ელექტრომობილს 9 წუთში 90%-ით ტენის
შექმნეს ბატარეა, რომელიც ელექტრომობილს 9 წუთში 90%-ით ტენის
გადახედვა

შექმნეს ცხვირის სპრეი, რომელმაც თაგვებში ტვინის დაბერება უკუაქცია
შექმნეს ცხვირის სპრეი, რომელმაც თაგვებში ტვინის დაბერება უკუაქცია

ასევე დაგაინტერესებთ