3
წაკითხვა
OpenAI-ს თუ დავუჯერებთ, მათი ხელოვნური ინტელექტის (AI) ახალი მოდელი იმდენად ძლიერია, რომ მისი გამოშვებისთვის კომპანიას უსაფრთხოების დამატებითი ზომების შემუშავება სჭირდება. ამის შესახებ Reuters წერს.
კომპანიის წარმომადგენლებმა სამშაბათს მედიასთან ისაუბრეს. ახალ მოდელი, სახელად Astra, კიბერუსაფრთხოებასთან დაკავშირებულ რთულ ამოცანებს ასრულებს. კომპანიის მტკიცებით, Astra-ს უსაფრთხოებაში იმაზე მეტი სუსტი წერტილის გამოვლენა შეუძლია, ვიდრე OpenAI-ს ამ დროისთვის ყველაზე დახვეწილ საჯაროდ ხელმისაწვდომ მოდელს. OpenAI-ს თუ დავუჯერებთ, ამისათვის მას ნაკლები გამოთვლითი რესურსიც სჭირდება.
კომპანიის გეგმის მიხედვით, Astra “მალე” გახდება ხელმისაწვდომი პატარა ჯგუფისთვის, თუმცა დეტალები არ დაუკონკრეტებიათ.
ახალი მოდელი კიბერუსაფრთხოების სპეციალისტებისთვის მნიშვნელოვანი ინსტრუმენტი შეიძლება გახდეს. AI-ს დახმარებით მათ სისტემებში არსებული ხარვეზების აღმოჩენა და გამოსწორება პოტენციურად უფრო სწრაფად შეეძლებათ. მეორე მხრივ, იმავე ტექნოლოგიის გამოყენება კიბერშეტევებისთვისაც არის შესაძლებელი. ამ და სხვა რისკების გამო OpenAI-მ ახალი მოდელის უსაფრთხოების წესების გამკაცრება გადაწყვიტა.
OpenAI-ის უსაფრთხოების შეფასების სისტემისთვის მნიშვნელოვანი შემთხვევაა. Astra ამ კომპანიის პირველი მოდელია, რომელმაც უსაფრთხოების დამატებითი ზომების მიღების საჭიროება შექმნა. ამ საკითხს თავად OpenAI-ს უსაფრთხოების პროტოკოლი არეგულირებს, ეს საკითხი კი აქამდე მხოლოდ თეორიული შესაძლებლობა იყო.
AI აგენტების შესაძლებლობების ზრდა კომპანიებისთვის კიდევ ერთი გამოწვევაა — მათ უკვე არაერთი მოქმედების განხორციელება შეუძლიათ ადამიანის მინიმალური ჩარევით, დავალების დამოუკიდებლად დაგეგმვა იქნება ეს, კოდის დაწერა, სხვადასხვა ინსტრუმენტის გამოყენება თუ რამდენიმე ეტაპიანი ამოცანების შესრულება.
მნიშვნელოვანი მაგალითია OpenAI-ს უსაფრთხოების ტესტირება, როცა AI მოდელები სატესტო გარემოს დაუსხლტნენ და Hugging Face-ის სისტემაში შეაღწიეს. OpenAI-ს განმარტებით, აღნიშნულ ინციდენტში ახალი მოდელი არ მონაწილეობდა, თუმცა Astra-სთან მიმართებით მაინც მეტი სიფრთხილეა საჭირო.
უსაფრთხოების ზომების გამკაცრებას მეორე მხარეც აქვს. ზედმეტად მკაცრმა შეზღუდვებმა შესაძლოა ისეთი მოქმედებებიც დააბრკოლოს, რომლებიც რეალურად უსაფრთხო და ლეგიტიმურია. ამის გამო კომპანიას სურს, მოდელმა უკეთ შეძლოს ერთმანეთისგან გაარჩიოს დასაშვები და სარისკო მოქმედებები.
OpenAI-ის ახალი მოდელის შემთხვევა ერთგვარი მაგალითია იმისა, რომ ხელოვნური ინტელექტის განვითარებასთან ერთად უსაფრთხოების საკითხიც იცვლება. რაც უფრო მეტის გაკეთება შეუძლია AI-ს ადამიანის ჩარევის გარეშე, მით უფრო მნიშვნელოვანი ხდება იმის განსაზღვრაც, თუ რა ფარგლებში უნდა შეძლოს მან მოქმედება.
თუ სტატიაში განხილული თემა და ზოგადად: მეცნიერებისა და ტექნოლოგიების სფერო შენთვის საინტერესოა, გამოიწერე ჩვენი ინსტაგრამი.
კომენტარები
კვირის ტოპ-5
დედამიწის ერთ-ერთი ყველაზე მშრალი ადგილი თოვლით დაიფარა1022 ნახვა
გალილეოს “თავისუფალი ვარდნის” ექსპერიმენტმა პიზის კოშკიდან კოსმოსში გადაინაცვლა923 ნახვა
1.4 მილიონი წლის ნაფეხურები ადამიანის ზომის ჰომინინების აღმოჩნდა — რა გავიგეთ მათზე349 ნახვა
კვლევის თანახმად, ადამიანები კარგად ვპროგნოზირებთ, რამდენ ხანს ვიცოცხლებთ203 ნახვა
ტვინის პერსონალიზებული სტიმულაცია ქრონიკულ ტკივილს ამსუბუქებს — კვლევა184 ნახვა
გირჩევთ
გადახედვა
Sci-Tech
ფოტოები უკვე წაშალეთ? — აი, კიდევ როგორ გაასუფთავებთ iPhone-ის მეხსიერებას
ფოტოები უკვე წაშალეთ? — აი, კიდევ როგორ გაასუფთავებთ iPhone-ის მეხსიერებას
გადახედვა
ჯანმრთელობა
ახალი დამატკბობელი შაქარზე 3500-ჯერ ტკბილია, 0 კალორია აქვს და ინსულინის დონეს არ ზრდის
ახალი დამატკბობელი შაქარზე 3500-ჯერ ტკბილია, 0 კალორია აქვს და ინსულინის დონეს არ ზრდის
გადახედვა
მედიცინა
ხატვის მანერით პარკინსონის დაავადების ამოცნობა 99%-იანი სიზუსტითაა შესაძლებელი — კვლევა
ხატვის მანერით პარკინსონის დაავადების ამოცნობა 99%-იანი სიზუსტითაა შესაძლებელი — კვლევა
გადახედვა
ტექნოლოგიები
Anthropic-მა ხელოვნური ინტელექტის წვრთნა შეაჩერა — მიზეზი AI-ს თვითნებობაა
Anthropic-მა ხელოვნური ინტელექტის წვრთნა შეაჩერა — მიზეზი AI-ს თვითნებობაა
ბანკები და ფინანსები
თიბისი ტექი Tester’s Day 2026-ის მთავარი მხარდამჭერია
თიბისი ტექი Tester’s Day 2026-ის მთავარი მხარდამჭერია
ეკონომიკა
რა არის საფონდო ბირჟა და როგორ მუშაობს ის რეალურად?
რა არის საფონდო ბირჟა და როგორ მუშაობს ის რეალურად?
გადახედვა
მეცნიერება
ისპანახიანი პური ინსულინისა და შიმშილის სამართავად? — მეცნიერთა ახალი ექსპერიმენტი
ისპანახიანი პური ინსულინისა და შიმშილის სამართავად? — მეცნიერთა ახალი ექსპერიმენტი
გადახედვა
ჯანმრთელობა
მძიმე მეტალის მოსმენა ფიზიკური ტკივილის ატანას აადვილებს — კვლევა
მძიმე მეტალის მოსმენა ფიზიკური ტკივილის ატანას აადვილებს — კვლევა
გადახედვა
კოსმოსი
ვინ იყო ნენსი გრეის რომანი — ასტრონომი, რომელსაც “ჰაბლის დედა” უწოდეს
ვინ იყო ნენსი გრეის რომანი — ასტრონომი, რომელსაც “ჰაბლის დედა” უწოდეს
გადახედვა
Sci-Tech
ხელოვნურ ინტელექტთან ხშირი კომუნიკაცია ადამიანებს სულ უფრო რობოტულს ხდის? — კვლევა
ხელოვნურ ინტელექტთან ხშირი კომუნიკაცია ადამიანებს სულ უფრო რობოტულს ხდის? — კვლევა
