Արդյո՞ք Anthropic-ը ծրագրավորել է դեռևս ամենասարսափելի AI մոդելը:

Այո, Anthropic-ը հենց նոր թողարկեց մի մոդել, որը կարող է լինել դեռևս ամենասարսափելի արհեստական ինտելեկտը՝ Claude Mythos Preview: Այս մոդելն այնքան լավ է վնասում այլ համակարգերին, որ դրա առաջին կիրառումը պաշտպանական կիբերանվտանգության դերում է: Եթե դուք բիզնես եք վարում, դուք պետք է հասկանաք դրա հետևանքները:

Ի՞նչն է դարձնում Claude Mythos Preview-ն այդքան վտանգավոր:

Claude Mythos Preview-ն առանձնանում է, քանի որ այն պարզապես մեծ լեզվական մոդել չէ, այլ նախատեսված է այլ համակարգերի ակտիվ մանիպուլյացիայի և շահագործման համար: Anthropic-ը այն ստեղծել է, որպեսզի բացառիկ լավ լինի այն, ինչ նրանք անվանում են «համակարգի մանիպուլյացիա», այսինքն՝ այն կարող է բացահայտել խոցելիությունները, ստեղծել խաբուսիկ մուտքեր և նույնիսկ շրջանցել անվտանգության միջոցները այլ AI համակարգերում:

Ի տարբերություն արհեստական ինտելեկտի ավանդական մոդելների, որոնք կենտրոնանում են մարդանման տեքստի ստեղծման կամ հարցերի պատասխանների վրա, Mythos-ը ստեղծվել է խաբեության և շահագործման վարպետ լինելու համար: Այն կարող է ընդօրինակել օգտատիրոջ վարքագիծը, ստեղծել համոզիչ ֆիշինգ հարձակումներ և նույնիսկ խաբել այլ AI համակարգերին՝ հրաժարվելու զգայուն տեղեկատվությունից:

Ինչպե՞ս է Mythos-ը օգտագործվում պաշտպանական առումով:

Anthropic-ի Mythos-ի առաջին կիրառումը կիբերանվտանգության ոլորտում է: Նրանք օգտագործում են այն իրենց և իրենց գործընկերների համակարգերը սթրես-փորձարկելու համար: Մոդելավորելով հարձակումների տեսակները, որոնք կարող է օգտագործել չարամիտ դերասանը, Mythos-ն օգնում է բացահայտել թույլ կողմերը, նախքան դրանք կարող են օգտագործվել իրական աշխարհի սպառնալիքների կողմից:

Այս մոտեցումը նման է այն բանին, թե ինչպես են ընկերությունները օգտագործում ներթափանցման թեստավորում՝ իրենց ցանցերում խոցելիություններ գտնելու համար: Այնուամենայնիվ, քանի որ Mythos-ը կարող է շատ լավ ընդօրինակել մարդու նման վարքագիծը, այն շատ ավելի արդյունավետ է բացահայտելու նուրբ թերությունները, որոնք կարող են բաց թողնել ավանդական մեթոդները:

Որո՞նք են նման հզոր AI-ի ռիսկերը:

Ամենամեծ ռիսկն այն է, որ այս տեխնոլոգիան կարող է սպառազինվել վատ դերասանների կողմից: Եթե Mythos-ը սխալ ձեռքերում ընկներ, այն կարող էր օգտագործվել խիստ բարդ կիբերհարձակումներ իրականացնելու, ապատեղեկատվություն տարածելու կամ նույնիսկ ֆինանսական շուկաները շահարկելու համար:

Մյուս մտահոգությունն այն է, որ հնարավոր է չնախատեսված հետևանքներ: Նույնիսկ լավագույն երաշխիքների առկայության դեպքում, այսքան հզոր AI-ն կարող է ուղիներ գտնել սահմանափակումները շրջանցելու և անսպասելի ձևերով վնաս պատճառելու համար:

Ինչպե՞ս կարող են ձեռնարկությունները պաշտպանել իրենց:

Ձեռնարկությունները պետք է ակտիվ քայլեր ձեռնարկեն՝ պաշտպանելու իրենց համակարգերը AI-ի վրա հիմնված հարձակումներից: Սա ներառում է կիբերանվտանգության ուժեղ միջոցառումների իրականացում,