„არსებობს სამიდან ერთი შანსი, რომ ხელოვნურმა ინტელექტმა კაცობრიობა ათ წელიწადში გაანადგუროს“, — აფრთხილებს Google DeepMind-ის ყოფილი მკვლევარი

არსებობს სამიდან ერთი შანსი, რომ ხელოვნურმა ინტელექტმა მომდევნო ათ წელიწადში კაცობრიობა გაანადგუროს, — ამის შესახებ Google DeepMind-ის ყოფილმა მკვლევარმა გააფრთხილა.

ალექს ტერნერმა განაცხადა, რომ რამდენადაც ხელოვნური ინტელექტის სისტემები სულ უფრო განვითარებული ხდება, მეცნიერებს კი უჭირთ მათი ქცევის გაგება, კაცობრიობა საკუთარი მომავლის გზაგასაყარს უახლოვდება.

პარასკევს NDTV World Summit-ზე გამოსვლისას ტერნერმა გააფრთხილა, რომ ხელოვნურ ინტელექტს შეუძლია კაცობრიობა ისე გაანადგუროს, რომ ამის მითითებაც კი არ ჰქონდეს მიღებული.

თუმცა „ეს იმაზეა დამოკიდებული, თუ რას გავაკეთებთ შემდეგ“, — თქვა მან. „მე აქ იმისთვის ვარ, რომ გითხრათ, რა მოხდება, თუ ხელოვნური ინტელექტის შექმნას იმავე გზით გავაგრძელებთ, როგორც ახლა ვაკეთებთ“.

მკვლევარმა აღნიშნა, რომ კერძო კომპანიებს შორის შეჯიბრმა უფრო მძლავრი ხელოვნური ინტელექტის სისტემების შესაქმნელად შესაძლოა მეცნიერთა იმ შესაძლებლობას გაუსწროს, რომ ისინი კონტროლქვეშ შეინარჩუნონ.

ეს იმიტომ ხდება, რომ ტექნოლოგია იმდენად სწრაფად ვითარდება, რომ მისი შემქმნელებიც კი ვერ იგებენ, თუ რა შექმნეს ან როგორ იქცევა ის — რაც იმას ნიშნავს, რომ ადამიანებმა შესაძლოა სრულად ვეღარ შეძლონ მათი მოქმედებების გაკონტროლება.

განსხვავებით იმისგან, თუ როგორ ესმით, მაგალითად, ინჟინრებს მათ მიერ დაპროექტებული სტრუქტურები, ხელოვნური ინტელექტის ტექნოლოგიურმა კომპანიებმა შესაძლოა ბოლომდე ვერ გაიგონ, თუ როგორ მუშაობს მათი ქმნილებები, განაცხადა მან.

რადგან სანამ ხელოვნური ინტელექტის სისტემები სულ უფრო რთული ამოცანების შესრულების უნარს იძენენ, შესაძლოა მათ ინსტრუქციები ისე არ შეასრულონ, როგორც ამას მათი ადამიანური მბრძანებლები გეგმავდნენ.

Google DeepMind-ის ყოფილმა მკვლევარმა ალექს ტერნერმა (ფოტოზე) გააფრთხილა, რომ არსებობს სამიდან ერთი შანსი, რომ ხელოვნურმა ინტელექტმა მომდევნო ათ წელიწადში კაცობრიობა გაანადგუროს.

შესაბამისად, ამ ტექნოლოგიის ქცევის პროგნოზირება ან გაგება რთულია, განსხვავებით საინჟინრო სექტორის სისტემებისგან, რომელთა მახასიათებლების შეფასებაც დადგენილი პრინციპების მიხედვით შეიძლება.

„ჩვენ ხელოვნური ინტელექტი ასე არ აგვიგია“, — თქვა ტერნერმა და ასევე გააფრთხილა, რომ ხელოვნურმა ინტელექტმა შესაძლოა განსხვავებულად იმოქმედოს მაშინ, როცა იცის, რომ მას აკვირდებიან, რადგან მკვლევარები ვერ შეძლებენ იმის გაგებას, თუ რას აკეთებს ის.

ეს ზოგიერთ სექტორში განგაშს გამოიწვევს, ვინაიდან ხელოვნური ინტელექტი სხვა ტექნოლოგიებთან შედარებით ნაკლები ადამიანური ზედამხედველობით ვითარდება — რაც იმას ნიშნავს, რომ მათ შეიძლება არასასურველად იმოქმედონ, თუ დასასრულებლად მიცემული ამოცანა უფრო გართულდება.

ტერნერმა, რომელმაც Google ივლისში მას შემდეგ დატოვა, რაც კომპანიამ პენტაგონთან საიდუმლო საქმიანობისთვის თავისი ხელოვნური ინტელექტის ტექნოლოგიის გამოყენების შეთანხმება გააფორმა, განაცხადა, რომ შედეგად ხელოვნურმა ინტელექტმა შესაძლოა საკუთარ განვითარებას შეუწყოს ხელი, რაც ადამიანებისთვის მასთან ფეხის აყოლას კიდევ უფრო გაართულებს.

მან ამ ფენომენს „ინტელექტის აფეთქება“ უწოდა — და გააფრთხილა, რომ ეს უკვე დღეს ხდება.

Google-ის ყოფილმა მკვლევარმა თქვა, რომ ხელოვნური ინტელექტის სხვა ლაბორატორიის მეცნიერმა მას გაუმხილა, რომ ტექნოლოგია უკვე თავად „აკვირდება“ საკუთარ თავს, რაც მიუთითებს იმაზე, რომ ის უკვე თვითრეგულირებადი გახდა და ადამიანის ჩარევის გარეშე შეუძლია საკუთარი თავის გაუმჯობესება.

ტერნერმა აღნიშნა: „მკვლევარმა თქვა, რომ ადამიანები ხელოვნური ინტელექტის მიერ შექმნილ ნამუშევრებს თავად აღარ ამოწმებდნენ.

„ამის ნაცვლად, ისინი ხელოვნური ინტელექტის კიდევ ერთ სისტემას ქმნიდნენ პირველის გასაკონტროლებლად“.

ტერნერმა დამატებით გააფრთხილა: „თამბაქოს გიგანტები იტყუებოდნენ ფილტვის კიბოზე. ნავთობის გიგანტები იტყუებოდნენ კლიმატის ცვლილებაზე. ახლა კი ხელოვნური ინტელექტის მსხვილი ინდუსტრიის ნაწილი ამბობს, რომ ეს რისკები მოგონილია“.

ეს მას შემდეგ ხდება, რაც ბილ გეითსმა გასულ თვეში გააფრთხილა, რომ ხელოვნურ ინტელექტს მილიარდი ადამიანის მოკვლა შეუძლია, თუ ადამიანები ტექნოლოგიის განვითარებაში არ ჩაერევიან.

მან განაცხადა: „ხელოვნური ინტელექტი ნამდვილად საკმარისად ძლიერია იმისთვის, რომ განავითაროს მოვლენები, რომლებიც მილიარდ სიკვდილს გამოიწვევს.

„ასე რომ, თუმცა [კაცობრიობის] 100 პროცენტამდე მისვლა საკმაოდ რთულია, არასოდეს ყოფილა ისეთი ძლიერი იარაღი, როგორიც არის ბოროტი განზრახვის მქონე ადამიანებისა და ხელოვნური ინტელექტის უახლესი ინსტრუმენტების კომბინაცია“.

გეითსი ასევე გამოვიდა გარკვეული პოტენციური გადაწყვეტილებებით, როდესაც უელკერმა ჰკითხა: „რა აღკვეთდა ტრაგედიების მოხდენას კონკრეტულად ხელოვნური ინტელექტის გამო?“

მან გააფრთხილა, რომ ხელოვნურმა ინტელექტმა შესაძლოა სახიფათოდ გაართულოს განსხვავების დანახვა სიცოცხლის გადამრჩენელი მედიკამენტების შემქმნელ მეცნიერებსა და ბიოლოგიური იარაღის შექმნის მსურველ ბოროტმოქმედებს შორის.

„ვისურვებდი, უფრო ადვილი ყოფილიყო კარგი განზრახვის — როგორიცაა „მინდა შევქმნა ახალი წამალი დაავადებისთვის“ — გარჩევა უარყოფითი განზრახვისგან, რაც არის „მინდა შევქმნა ბიოტერორიზმის ინსტრუმენტი““, — განუცხადა გეითსმა უელკერს.

Microsoft-ის თანადამფუძნებელმა ასევე განაცხადა, რომ პოტენციური რისკები მოწინავე ხელოვნური ინტელექტის სისტემებზე მკაცრ ზედამხედველობას აუცილებელს ხდის, და შეერთებულ შტატებს დამცავი მექანიზმების დაწესებაში ლიდერობისკენ მოუწოდა.

„რადგან ისინი ასე ახლოსაა ერთმანეთთან, ჩვენ ნამდვილად გვჭირდება ნებისმიერი დახვეწილი მოდელის მონიტორინგი და ზუსტად იმის აღრიცხვა, თუ რა კეთდება“, — თქვა მან.

გეითსის კომენტარები მოჰყვა დონალდ ტრამპის განცხადებას, რომლის თანახმადაც აშშ ხელოვნურ ინტელექტში ჩინეთს „უსწრებს“ და პროგნოზები იმის შესახებ, რომ ტექნოლოგია ადამიანებს დახოცავს, „არ გამართლდება“.

მან თქვა: „ჩვენ ვუსწრებთ ჩინეთს ხელოვნურ ინტელექტში. ჩვენ ყველაზე დახვეწილი ქვეყანა ვართ მსოფლიოში და, გულწრფელად რომ ვთქვა, მინდა, რომ ეს ასეც დარჩეს, რადგან ვინც იგებს ხელოვნურ ინტელექტს, ის იგებს ყველაფერს“.

ხოლო სექტემბრის დასაწყისში Anthropic-ის მამხილებელმა ჯეიკობ კოქსონმა გააფრთხილა „სახიფათო ტექნოლოგიის“ შესახებ, რომელიც, მისი აზრით, კაცობრიობას წერტილს დაუსვამს.

მან თქვა: „სამწუხაროდ, ჩვენ მეტ-ნაკლებად ვიცით, როგორ გავაკონტროლოთ ბირთვული იარაღი. [მაგრამ] ჯერ კიდევ არ ვიცით, როგორ გავაკონტროლოთ ხელოვნური ინტელექტი“.