ხელოვნური ინტელექტი სიმსივნეების ამოცნობას აუმჯობესებს — ახალი სისტემა აქამდე უცნობი ტიპების გამოვლენასაც შეძლ

სამედიცინო ხელოვნური ინტელექტის მიმართ დიდი სიფრთხილის აღმოფხვრისთვის ახალი ჩარჩო იქმნება: ნეირონული ქსელები დღეს თავის თავს უსაფრთხოდ განიხილავენ, მაშინაც კი, როდესაც მოწყობილობის გარეთ მონაცემებს აწყდებიან. ჩარჩოს შემუშავებლების თქმით, ონკოლოგიაში გამოყენებული AI სისტემები მაღალი დარწმუნებით შეცდომით კლასიფიცირებენ იშვიათი სიმსივნეების ქვეტიპებს, რაც პაციენტის სამკურნალო გადაწყვეტილებებს რისკავს.

მთავარი დასკვნები

კონკრეტული სიმსივნეების მონაცემებზე მომზადებული AI სისტემები დარწმუნებით ვერ ცნობენ უცნობ სიმსივნეთა ქვეტიპებს

ახალი სიფრთხილის კვანტიფიკაციის ჩარჩო ნეირონული ქსელების დაკითხვისკენ მიმართავს თავიანთი მომზადების მონაცემთა შეზღუდვებზე

მეთოდოლოგია შეამცირებს ზედმეტი დარწმუნებას კლინიკური ონკოლოგიის გარემოში

ეს ჩარჩოს განხორციელება მოითხოვს ცვლილებებს AI მოდელების შემუშავებაში და ვალიდაციაში კლინიკური გამოყენებამდე

ხელოვნური ინტელექტის დარწმუნების პრობლემა

სამედიცინო AI სისტემები, განსაკუთრებით ღრმა ნეირონული ქსელები, ფუნდამენტურ შეზღუდვას აწყდებიან: ისინი “დიდწილად უცნობია თავიანთი მომზადების მონაცემთა საზღვრები”, ჩარჩოს შემუშავებლების თქმით. როდესაც მიმდინარე შემომავალი წარმოდგენილია—მაგალითად, იშვიათი სიმსივნის ქვეტიპი, რომელიც ქსელმა არასოდეს აღქმა მომზადების დროს—ეს სისტემები ვერ სიგნალის გაკაფას. ამის ნაცვლად, ისინი ამაღლებენ დარწმუნებული პროგნოზის, თუნდაც ოპერირებენ თავიანთი ცოდნის მხარეზე გაკეთილი გარეთ.

ეს ფენომენი ხშირად ციტირებული ანალოგიის მსგავსია: ნეირონული ქსელი, რომელიც მომზადებულია აფრიკის ძუძუმწოვარი ცხოველების გასარჩევად, დაკმაყოფილებული მიმდინარე კ აშკარა იაგუარის სამხრეთ ამერიკიდან ლეოპარდად გამოიცნობს და არ ითქვამს, რომ ის ქსელის მომზადების არეალის გარეთ არის. კლინიკურ ონკოლოგიაში, ასეთი ზედმეტი ზომა პირდაპირ შედეგებს რომელიმე მედიცინის ზედმეტ აყმო თავისთავად აკმეკია.

როგორ ცნობს ჩარჩო ცოდნის საზღვრებს

ახალი ჩარჩო ოპერირებს პრინციპით: ნეირონული ქსელები სწავლობენ, რომ განხილონ თავიანთი მომზადების მონაცემთა სტატისტიკური საზღვრები და ენიჭოთ ქვედა დარწმუნების რაოდენობა თუ გამომდინარე მონაცემებამდე, რომელსაც ის განაწილება აკმაყოფილებელი გადახრა აქვს. შემუშავებლების თქმით, ეს არის ქსელების “ცნობიერი” რა არის, რაც არ იცნობენ.

ამ შემთხვევაში, უცნობი სიმსივნეების ქვეტიპებზე მაღალი დარწმუნების პროგნოზის ნაცვლად, სისტემა აღნიშნავს სიფრთხეს. ეს კლინიცისტებს საშუალებას აძლევს, რომ AI გამოჩინების სიტყვები კორექტულად განიხილონ—როგორც მთავარი რეკომენდაციები რუტინული შემთხვევებისთვის და როგორც წინასწარი შეფასებები, რომელსაც წინამჭვრალობის მიმართ გამოხმელი ხელმისაწვდომობა ემხრობა. მეთოდოლოგია წაბლის კარგი კლინიკური აბსოლუტურობის მოდელირებს, სადაც ექიმები იცნობენ თავიანთი ცოდნის საზღვრებს და ეძიებენ სპეციალური სუფთაკეთილ შეფასებას უცნობი მდგომარეობის აბსოლუტური სამკურნალოდ.

კლინიკური და რეგულაციული შედეგი

სიფრთხის კვანტიფიკაციის ჩარჩოს განხორციელება აღმოფხვრის ხანგრძლივ შეშფოთებას AI ონკოლოგიის ცენტრში განლაგებული. FDA აყო მნიშვნელოვანი ამჟამინდელი გამჭვირვალე უნდობლობის შემფასებელი AI დიაგნოსტიკური მოწყობილობებში, მაგრამ მნიშვნელოვანი რაოდენობის აწე სისტემა აკლია ეს ფაკულტეტი. კლინიკური გუნდები ფიქრობენ, რომ არა მხოლოდ რა აკეთებს AI საიდენტიფიკაციო, არამედ როგორ დარწმუნებული ეწოდება ამ პროგნოზს.

ასეთი ჩარჩოს ვალიდაცია მოითხოვს წინასწარი ტესტირება კლინიკური კვლავში, რომელიც შედარებს AI პროგნოზს პათოლოგის შეფასებასთან სხვადასხვა პაციენტის პოპულაციებსა და სიმსივნეების ქვეტიპებზე. კიდევ ერთხელ, უსაფრთხოების მონიტორინგი უნდა მიეთითოს ყველა კლინიკური ცდის დროს, რათა დაადგინოთ, ხელოვნური ინტელექტი უსაფრთხოების კვანტიფიკაცია რეალური კლინიკური პრაქტიკის დიაგნოსტიკური შეცდომის შემცირება საბოლოთ ფიქრობს.

ნეირონული ქსელი კონკრეტული სიმსივნეების მონაცემებზე მომზადებული მაღალი დარწმუნებით საიდენტიფიკაციო უცნობი სიმსივნეების ქვეტიპები, მაგრამ ახალი სიფრთხის კვანტიფიკაციის ჩარჩო შეუძლია სწავლებული სისტემა ცნობიერი რა მოხდა თავიანთი მომზადების მონაცემთა სტატისტიკური საზღვრები.

— ჩარჩოს შემუშავებელი, 2026

სიფრთხის კვანტიფიკაციის მიღება სამედიცინო AI მოიცავს მწიფოვანების მოდელი ფილიალი აკრძალული მეტი დაუზღვეველი და კლინიკური ხელმისაწვდომობა. რადგან ახალი კვლევა AI ვალიდაცია და სიფრთხის კვანტიფიკაცია ჩნდება, მომდევნო დიაგნოსტიკური სისტემა ხდება უცხო თანამშრომელი ონკოლოგია კლინიკა, დაჯერებული კლინიცისტი აღმოცნობა რომელი შემთხვევა მოუტანს სტანდარტი AI მხარდამჭერი და რომელი მოთხოვნილებები სპეციალური მოსაზრება.

წყარო: New Framework Improves Trustworthiness of AI in Cancer Diagnosis