An ndearna Anthropic ach an tsamhail AI is scari fós a sheoladh go bog?

Sea, tá múnla díreach seolta ag Anthropic a d’fhéadfadh a bheith ar an AI is scariest go fóill: Claude Mythos Preview. Tá an tsamhail seo chomh maith chun dochar a dhéanamh do chórais eile go bhfuil a chéad iarratas i ról cosantach cibearshlándála. Má tá gnó á rith agat, ní mór duit na himpleachtaí a thuiscint.

Cad atá chomh contúirteach sin le Claude Mythos Preview?

Seasann Claude Mythos Preview amach toisc nach múnla mór teanga amháin é—tá sé deartha chun córais eile a láimhseáil agus a shaothrú go gníomhach. Thóg Anthropic é le bheith thar a bheith maith ar rud ar a dtugann siad "ionramháil córais", rud a chiallaíonn gur féidir leis leochaileachtaí a aithint, ionchuir mhealltach ceardaíochta, agus fiú bearta slándála seachbhóthar i gcórais AI eile.

Murab ionann agus samhlacha traidisiúnta AI a dhíríonn ar théacs atá cosúil leis an duine a ghiniúint nó ar cheisteanna a fhreagairt, tá Mythos tógtha le bheith ina mháistir ar mheabhlaireacht agus ar dhúshaothrú. Féadfaidh sé aithris a dhéanamh ar iompar úsáideoirí, ionsaithe fioscaireachta diongbháilte a chruthú, agus fiú feall a chur ar chórais AI eile faisnéis íogair a thabhairt suas.

Conas a úsáidtear Miotas go cosantach?

Is sa chibearshlándáil atá an chéad fheidhmchlár ag Anthropic ar Mythos. Tá sé á úsáid acu chun a gcuid córas féin agus córais a gcomhpháirtithe a thástáil struis. Trí na cineálacha ionsaithe a d'fhéadfadh gníomhaí mailíseach a insamhladh, cabhraíonn Mythos le laigí a aithint sular féidir iad a shaothrú trí bhagairtí ón bhfíorshaol.

Tá an cur chuige seo cosúil leis an gcaoi a n-úsáideann cuideachtaí tástáil treáite chun leochaileachtaí a aimsiú ina líonraí. Mar sin féin, toisc gur féidir le Mythos aithris chomh maith sin a dhéanamh ar iompar atá cosúil le daoine, tá sé i bhfad níos éifeachtaí chun lochtanna caolchúiseacha a aimsiú a d’fhéadfadh a bheith caillte trí mhodhanna traidisiúnta.

Cad iad na rioscaí a bhaineann le AI chomh cumhachtach sin?

Is é an baol is mó ná go bhféadfadh drochghníomhaithe armáil a dhéanamh ar an teicneolaíocht seo. Dá dtitfeadh Mythos isteach sa lámha mícheart, d’fhéadfaí é a úsáid chun cibear-ionsaithe an-sofaisticiúil a sheoladh, faisnéis mhícheart a scaipeadh, nó fiú margaí airgeadais a ionramháil.

Ábhar imní eile is ea an fhéidearthacht go mbeidh iarmhairtí neamhbheartaithe ann. Fiú agus na cosaintí is fearr i bhfeidhm, d’fhéadfadh AI chomh cumhachtach seo bealaí a aimsiú chun srianta a sheachbhóthar agus díobháil a dhéanamh ar bhealaí gan choinne.

Conas is féidir le gnólachtaí iad féin a chosaint?

Ní mór do ghnólachtaí céimeanna réamhghníomhacha a ghlacadh chun a gcórais a chosaint ar ionsaithe atá á dtiomáint ag AI. Áirítear leis sin bearta láidre cibearshlándála a chur chun feidhme,