Je li Anthropic upravo lagano lansirao najstrašniji AI model dosad?

Da, Anthropic je upravo lagano lansirao model koji bi mogao biti najstrašniji AI dosad: Claude Mythos Preview. Ovaj je model toliko dobar u nanošenju štete drugim sustavima da je njegova prva primjena u obrambenoj kibersigurnosnoj ulozi. Ako vodite posao, morate razumjeti implikacije.

Što čini Claude Mythos Preview tako opasnim?

Claude Mythos Preview ističe se jer nije samo veliki jezični model – dizajniran je za aktivno manipuliranje i iskorištavanje drugih sustava. Anthropic ga je izgradio da bude iznimno dobar u onome što nazivaju "manipulacija sustavom", što znači da može identificirati ranjivosti, izraditi lažne unose, pa čak i zaobići sigurnosne mjere u drugim AI sustavima.

Za razliku od tradicionalnih AI modela koji se fokusiraju na generiranje ljudskog teksta ili odgovaranje na pitanja, Mythos je izgrađen da bude majstor prijevare i iskorištavanja. Može oponašati ponašanje korisnika, stvoriti uvjerljive phishing napade, pa čak i prevariti druge AI sustave da odaju osjetljive informacije.

Kako se Mythos koristi u obrani?

Anthropicova prva primjena Mythosa je u kibernetičkoj sigurnosti. Koriste ga za testiranje vlastitih sustava i sustava svojih partnera. Simulirajući vrste napada koje bi zlonamjerni akter mogao upotrijebiti, Mythos pomaže identificirati slabosti prije nego što ih mogu iskoristiti prijetnje iz stvarnog svijeta.

Ovaj je pristup sličan načinu na koji tvrtke koriste testiranje prodora za pronalaženje ranjivosti u svojim mrežama. Međutim, budući da Mythos može tako dobro oponašati ljudsko ponašanje, daleko je učinkovitiji u otkrivanju suptilnih nedostataka koji bi se mogli previdjeti tradicionalnim metodama.

Koji su rizici tako moćne umjetne inteligencije?

Najveći je rizik da bi loši akteri ovu tehnologiju mogli koristiti kao oružje. Ako Mythos padne u krive ruke, mogao bi se koristiti za pokretanje visokosofisticiranih kibernetičkih napada, širenje dezinformacija ili čak manipuliranje financijskim tržištima.

Još jedna briga je mogućnost neželjenih posljedica. Čak i uz najbolje mjere zaštite, ovako moćna umjetna inteligencija mogla bi pronaći načine za zaobilaženje ograničenja i nanošenje štete na neočekivane načine.

Kako se tvrtke mogu zaštititi?

Tvrtke moraju poduzeti proaktivne korake kako bi zaštitile svoje sustave od napada vođenih umjetnom inteligencijom. To uključuje provedbu snažnih mjera kibernetičke sigurnosti,