“ერთი კვირაა ხელოვნური ინტელექტის სპეციალიტებში პანიკაა” – ირაკლი მელაშვილი

საქმე იმაშია, რომ ამ კვირაში OpenAI-მ განაცხადა, რომ ახალი მოდელის შესაძლებლობების ტესტირებისას, დახურულ სატესტო გარემოში მყოფმა პროგრამამ მოახერხა ინტერნეტში გასვლა და მესამე მხარის პლატფორმა Hugging Face-ის სისტემაში შეღწევა, რათა ტესტისთვის ერთგვარი „შპარგალკა“ მოეძებნა.

ამის შემდეგ Anthropic-მა 140 ათასი საკუთარი ტესტი გადაამოწმა და აღმოაჩინა სამი შემთხვევა, როდესაც Claude-ის მოდელებმა პარტნიორი კომპანიის გარემოს გამოყენებით ინტერნეტზე წვდომა მიიღეს, რის შემდეგაც კიდევ სამი სხვადასხვა ორგანიზაციის სისტემებში შეაღწიეს.

BBC -ს სტატიის ძირიტადი თეზისები.

1. ხელოვნური ინტელექტის შესაძლებლობები უფრო სწრაფად იზრდება, ვიდრე კაცობრიობის უნარი, აკონტროლოს იგი.

2. ბოლო რამდენიმე დღის განმავლობაში, OpenAI-ისა და Anthropic-ის – პროგრამებმა შეძლეს მკაცრად იზოლირებული სატესტო გარემოდან ღია ინტერნეტში გასვლა და საკუთარი მიზნების მისაღწევად უცხო სისტემების გატეხვა.

3. Anthropic-ის ხელმძღვანელი დარიო ამოდეი – „ბოლო თვეებში დაგროვდა უდავო მტკიცებულებები, რომლებიც აჩვენებს ხელოვნური ინტელექტის წარმოუდგენელ შესაძლებლობებს და მათგან გამომდინარე რისკებს. უკვე კითხვის ნიშნის ქვეშ დგას კიბერუსაფრთხოება. მალე შესაძლოა ბიოლოგიური საფრთხეც გაჩნდეს, შემდეგ კი — ხელოვნური ინტელექტის დამოუკიდებელი მოქმედების უნარიც.“

4. ამ კვირაში 1 300-ზე მეტმა ხელოვნური ინტელექტის დეველოპერმა ხელი მოაწერა ღია წერილს, რომელშიც აშშ-ის ხელისუფლებას მოუწოდეს, სხვა ქვეყნებთან ერთად შეიმუშაოს – „ტექნიკური და მარეგულირებელი მექანიზმები, რომლებიც მიზანმიმართულად შეანელებს მოწინავე ხელოვნური ინტელექტის მოდელების ავტომატური განვითარების ტემპს.“

5. ამ მიმართვაში ვკითხულობთ, “„მსოფლიოს წამყვანი AI-კომპანიები უკვე აღიარებენ, რომ ძალიან მიუახლოვდნენ ხელოვნური ინტელექტის მიერ თავად ხელოვნური ინტელექტის შექმნის ავტომატიზაციას. არსებობს რეალური საფრთხე, რომ ხელოვნური ინტელექტის შესაძლებლობები ახალი სისტემების შექმნის მიმართულებით ძალიან სწრაფად გასცდება ჩვენი გაგებისა და მათი მართვის შესაძლებლობების ფარგლებს.“

6. ამ ამბების შემდეგ, OpenAI შემქმნელი კომპანიის ხელმძღვანელი, სემ ალტმანი, ვაშინგტონში გაემგზავრა. ოთხშაბათს ის სენატორებს შეხვდა, ხოლო ხუთშაბათს — პრეზიდენტის ადმინისტრაციის წარმომადგენლებს.

7. სემ ალტმანის შეფასებით, რომელმაც თავად ხელი არ მოაწერა 1300 სპეციალისტის წერილს – „ხელოვნური ინტელექტის მეშვეობით ძალაუფლების კონცენტრაცია საშინელი პერსპექტივაა. მაშინებს ისეთი სამყარო, სადაც სრულიად საფუძვლიანი შიშები გამოიყენება იმის სათქმელად, რომ: „AI ძალიან საშიშია, ამიტომ ის მხოლოდ ადამიანების მცირე ჯგუფის ხელში უნდა იყოს, რომლებიც მას კარგად იცნობენ, თქვენ კი ნუ ღელავთ — ყველაფერს თქვენს ნაცვლად გადავწყვეტთ.“ მისი თქმით, მთავარი გამოწვევაა ისეთი რეგულირების შექმნა, რომელიც საზოგადოებას არ გაუჩენს განცდას, რომ ეს წესები ვიღაცის კერძო ინტერესებს ემსახურება.

8. 1 აგვისტოს იწურებოდა, დონალდ ტრამპის მიერ ივნისში ხელმოწერილ განკარგულების ერთ-ერთი მთავარი ვადა, ამ დროისთვის უნდა განსაზღვრულიყო „მოწინავე AI-მოდელების“ კატეგორია რომლებიც დაექვემდებარება განსაკუთრებულ მარეგულირებელ რეჟიმის შემუშავებას.

ჩემი მხრიდან კი ერთს დავამატებ, უზარამაზარი, ადამიანის მხრიდან არაკონტროლირებადი ძალის შექმნა, რომელიც მილიონჯერ აღემატება ადამიანს ინეტელექტით, ამავე დროს არ გააჩნია მორალი, ეთიკა, ემპატია, ეს ცეცხლთან თამაშიც აღარ არის. ილონ მასკი ამტკიცებს, რომ AI ადამიანის კოლექტიურ ინტელექტს 2027-2028 წლებისთვის გადაასწრებს. სემ ალტმანის (OpenAI) ვარაუდით კი, ზეინტელექტი ათწლეულის ბოლომდე, 2030 წლამდე შეიქმნება.