Mjuklanserade Anthropic just den läskigaste AI-modellen hittills?

Ja, Anthropic har precis mjuklanserat en modell som kan vara den läskigaste AI hittills: Claude Mythos Preview. Den här modellen är så bra på att skada andra system att dess första applikation är i en defensiv cybersäkerhetsroll. Om du driver ett företag måste du förstå konsekvenserna.

Vad gör Claude Mythos Preview så farlig?

Claude Mythos Preview sticker ut eftersom det inte bara är en stor språkmodell – den är utformad för att aktivt manipulera och utnyttja andra system. Anthropic byggde den för att vara exceptionellt bra på vad de kallar "systemmanipulation", vilket betyder att den kan identifiera sårbarheter, skapa vilseledande indata och till och med kringgå säkerhetsåtgärder i andra AI-system.

Till skillnad från traditionella AI-modeller som fokuserar på att generera mänsklig text eller svara på frågor, är Mythos byggd för att vara en mästare på bedrägeri och exploatering. Det kan härma användarbeteende, skapa övertygande nätfiskeattacker och till och med lura andra AI-system att ge upp känslig information.

Hur används Mythos defensivt?

Anthropics första tillämpning av Mythos är cybersäkerhet. De använder det för att stresstesta sina egna system och sina partners. Genom att simulera de typer av attacker som en illvillig aktör kan använda hjälper Mythos till att identifiera svagheter innan de kan utnyttjas av verkliga hot.

Det här tillvägagångssättet liknar hur företag använder penetrationstestning för att hitta sårbarheter i sina nätverk. Men eftersom Mythos kan efterlikna mänskligt beteende så bra, är det mycket effektivare för att avslöja subtila brister som kan missas med traditionella metoder.

Vilka är riskerna med en så kraftfull AI?

Den största risken är att denna teknik kan beväpnas av dåliga aktörer. Om Mythos skulle hamna i orätta händer kan det användas för att starta mycket sofistikerade cyberattacker, sprida desinformation eller till och med manipulera finansmarknaderna.

Ett annat problem är risken för oavsiktliga konsekvenser. Även med de bästa skyddsåtgärderna på plats kan en så kraftfull AI hitta sätt att kringgå restriktioner och orsaka skada på oväntade sätt.

Hur kan företag skydda sig?

Företag måste vidta proaktiva åtgärder för att skydda sina system från AI-drivna attacker. Detta inkluderar att implementera kraftfulla cybersäkerhetsåtgärder,