გაუშვა თუ არა Anthropic-მა ყველაზე საშინელი AI მოდელი?

დიახ, Anthropic-მა ახლახან გამოუშვა მოდელი, რომელიც შეიძლება იყოს ყველაზე საშინელი AI: Claude Mythos Preview. ეს მოდელი იმდენად კარგია სხვა სისტემებისთვის ზიანის მიყენებაში, რომ მისი პირველი გამოყენება არის კიბერუსაფრთხოების დაცვითი როლი. თუ თქვენ აწარმოებთ ბიზნესს, უნდა გესმოდეთ შედეგები.

რა ხდის Claude Mythos Preview-ს ასე საშიშს?

Claude Mythos Preview გამოირჩევა იმიტომ, რომ ეს არ არის მხოლოდ დიდი ენის მოდელი — ის შექმნილია სხვა სისტემების აქტიური მანიპულირებისთვის და ექსპლუატაციისთვის. Anthropic-მა შექმნა ის, რომ გამორჩეულად კარგი იყოს, რასაც "სისტემის მანიპულირებას" უწოდებენ, რაც იმას ნიშნავს, რომ მას შეუძლია მოწყვლადობის იდენტიფიცირება, მატყუარა შეყვანის შემუშავება და უსაფრთხოების ზომების გვერდის ავლითაც კი სხვა AI სისტემებში.

ხელოვნური ხელოვნური ინტელექტის ტრადიციული მოდელებისგან განსხვავებით, რომლებიც ფოკუსირებულია ადამიანის მსგავსი ტექსტის შექმნაზე ან კითხვებზე პასუხის გაცემაზე, Mythos შექმნილია მოტყუებისა და ექსპლუატაციის ოსტატი. მას შეუძლია მომხმარებლის ქცევის მიბაძვა, დამაჯერებელი ფიშინგის შეტევების შექმნა და სხვა ხელოვნური ინტელექტის სისტემების მოტყუებაც კი, რათა უარი თქვას მგრძნობიარე ინფორმაციაზე.

როგორ გამოიყენება Mythos თავდაცვითად?

Anthropic-ის პირველი აპლიკაცია Mythos არის კიბერუსაფრთხოება. ისინი იყენებენ მას საკუთარი და მათი პარტნიორების სისტემების სტრესის შესამოწმებლად. იმ ტიპის თავდასხმების სიმულირებით, რომლებიც შეიძლება გამოიყენოს მავნე მოქმედმა, Mythos გვეხმარება სისუსტეების იდენტიფიცირებაში, სანამ ისინი გამოიყენებენ რეალურ სამყაროში საფრთხეებს.

ეს მიდგომა ჰგავს იმას, თუ როგორ იყენებენ კომპანიები შეღწევადობის ტესტირებას თავიანთ ქსელებში დაუცველობის საპოვნელად. თუმცა, იმის გამო, რომ მითოსს შეუძლია ადამიანის მსგავსი ქცევის მიბაძვა, ის ბევრად უფრო ეფექტურია დახვეწილი ხარვეზების გამოსავლენად, რომლებიც შეიძლება გამოტოვოთ ტრადიციულ მეთოდებს.

რა რისკებს შეიცავს ასეთი ძლიერი AI?

ყველაზე დიდი რისკი არის ის, რომ ეს ტექნოლოგია შეიძლება იყოს შეიარაღებული ცუდი მსახიობების მიერ. თუ Mythos არასწორ ხელში მოხვდება, ის შეიძლება გამოყენებულ იქნას უაღრესად დახვეწილი კიბერშეტევების განსახორციელებლად, დეზინფორმაციის გასავრცელებლად ან თუნდაც ფინანსური ბაზრების მანიპულირებისთვის.

კიდევ ერთი შეშფოთება არის არასასურველი შედეგების პოტენციალი. საუკეთესო დამცავი საშუალებების არსებობის შემთხვევაშიც კი, ასეთი ძლიერი AI შეძლებს შეზღუდვების გვერდის ავლით და მოულოდნელი გზებით ზიანის მიყენების გზების პოვნას.

როგორ დაიცვან ბიზნესი?

ბიზნესებმა უნდა მიიღონ პროაქტიული ნაბიჯები, რათა დაიცვან თავიანთი სისტემები ხელოვნური ინტელექტის შეტევებისგან. ეს მოიცავს ძლიერი კიბერუსაფრთხოების ზომების განხორციელებას,