Дали Anthropic току-що пусна най-страшния AI модел досега?

Да, Anthropic току-що пусна на пазара модел, който може да бъде най-страшният AI досега: Claude Mythos Preview. Този модел е толкова добър в причиняването на вреди на други системи, че първото му приложение е в ролята на защитна киберсигурност. Ако управлявате бизнес, трябва да разберете последиците.

Какво прави Claude Mythos Preview толкова опасен?

Claude Mythos Preview се откроява, защото не е просто голям езиков модел – той е проектиран да манипулира активно и да използва други системи. Anthropic го създаде, за да бъде изключително добър в това, което наричат „манипулиране на системата“, което означава, че може да идентифицира уязвимости, да създава измамни входни данни и дори да заобикаля мерките за сигурност в други AI системи.

За разлика от традиционните AI модели, които се фокусират върху генерирането на човешки текст или отговарянето на въпроси, Mythos е създаден да бъде майстор на измамата и експлоатацията. Той може да имитира поведението на потребителя, да създава убедителни фишинг атаки и дори да подмами други AI системи да предоставят чувствителна информация.

Как Mythos се използва за защита?

Първото приложение на Mythos от Anthropic е в киберсигурността. Те го използват, за да тестват собствените си системи и тези на своите партньори. Чрез симулиране на видовете атаки, които злонамереният актьор може да използва, Mythos помага да се идентифицират слабостите, преди да могат да бъдат използвани от заплахи от реалния свят.

Този подход е подобен на начина, по който компаниите използват тестове за проникване, за да намерят уязвимости в своите мрежи. Въпреки това, тъй като Mythos може да имитира подобно на човека поведение толкова добре, той е много по-ефективен при разкриването на фини недостатъци, които могат да бъдат пропуснати от традиционните методи.

Какви са рисковете от такъв мощен ИИ?

Най-големият риск е тази технология да бъде въоръжена от лоши актьори. Ако Mythos попадне в грешни ръце, може да се използва за стартиране на изключително сложни кибератаки, разпространение на дезинформация или дори манипулиране на финансовите пазари.

Друго опасение е потенциалът за непредвидени последствия. Дори и с най-добрите предпазни мерки, толкова мощен AI може да намери начини да заобиколи ограниченията и да причини вреда по неочаквани начини.

Как фирмите могат да се защитят?

Бизнесът трябва да предприеме проактивни стъпки, за да защити своите системи от атаки, управлявани от AI. Това включва прилагане на силни мерки за киберсигурност,