Táto vedúca umelej inteligencie v hodnote 6,6 miliardy dolárov hovorí, že má jednu veľmi veľkú starosť

Táto vedúca umelej inteligencie za 6,6 miliardy dolárov hovorí, že má jednu veľmi veľkú starosť

Vo búrkovom preteku o vývoj stále výkonnejšej umelej inteligencie dominujú titulky kôl financovania, schopnosti modelov a trhové ocenenia. Napriek tomu uprostred šialenstva zaznieva z najvyšších vrstiev odvetvia hlboká opatrnosť. Kľúčový vedúci pracovník popredného startupu s umelou inteligenciou v hodnote 6,6 miliardy dolárov nedávno zamával tým, že posunul konverzáciu z „čo môžeme vybudovať“ na „čo budujeme“. Jej primárnym záujmom nie je výpočtová sila alebo algoritmické prelomy; je to niečo oveľa zásadnejšie: integrita a kvalita údajov, ktorými kŕmime zviera.

Problém s odpadom, z evanjelia

Starosti vedúceho pracovníka závisia od klasického výpočtového princípu: Garbage In, Garbage Out (GIGO). V kontexte moderných veľkých jazykových modelov a systémov AI sú však stávky exponenciálne vyššie. Prešli sme z "Garbage Out" na "Polished, autoritatívne znejúci odpad." Modely umelej inteligencie sú trénované na rozsiahlych, neupravených oblastiach internetu – digitálnom úložisku, ktoré obsahuje brilantnosť spolu so zaujatosťou, faktami zmiešanými s výmyslom a odbornou analýzou ukrytou pod oceánmi názorov. Keď AI syntetizuje tento chaotický korpus, môže prezentovať chybné alebo škodlivé výstupy so sebavedomým tónom absolútnej pravdy. Obávame sa, že neúmyselne kodifikujeme naše historické a súčasné nedokonalosti do systémov, ktoré budú formovať budúce rozhodnutia vo financiách, zdravotníctve a správe vecí verejných.

Skryté náklady na dátový dlh

To vedie priamo ku konceptu „dátového dlhu“. Podobne ako technický dlh pri vývoji softvéru, aj dátový dlh vzniká, keď organizácie uprednostňujú škálovanie svojej AI pomocou ľahko dostupných, ale zle štruktúrovaných alebo nepreverených údajov. Tento dlh sa ticho zloží. Z krátkodobého hľadiska model funguje. Z dlhodobého hľadiska sa stáva labyrintom zakorenených nepresností a korelácií, ktoré sú astronomicky drahé a ťažko opraviteľné. Manažér argumentuje, že startupy aj podniky berú na seba katastrofálny dátový dlh vo svojom nápore na trh, čím riskujú budúce krízy dôveryhodnosti a funkčnosti. Tu sa strategický prístup k obchodným operáciám stáva kritickým. Platformy ako Mewayz sú vytvorené tak, aby bojovali proti prevádzkovému dlhu prostredníctvom centralizácie a štruktúrovania kľúčových obchodných údajov – od CRM až po pracovné toky projektov – a zaisťujú, že keď spoločnosť dodáva údaje do svojich vlastných nástrojov AI, čerpá ich z čistého a spoľahlivého zdroja, nie z digitálnej skládky.

Výzva pre kvalitnú inteligenciu a procesy zamerané na človeka

Navrhovaným riešením nie je zastaviť pokrok, ale zamerať sa na „Curated Intelligence“. To znamená implementáciu prísnych, nepretržitých procesov na audit údajov, získavanie zdrojov a označovanie. Vyžaduje si to ľudskú odbornosť na nastavenie mantinelov a definovanie etických a kvalitatívnych noriem, ktoré musia prvotné dáta spĺňať, kým sa stanú školiacim materiálom. Ide o posun od automatizácie za každú cenu k inteligentnému rozširovaniu. Táto filozofia siaha od tréningových údajov AI až po nástroje, ktoré tímy denne používajú. Modulárny obchodný operačný systém napríklad umožňuje lídrom navrhovať procesy, ktoré zaisťujú ľudský dohľad a kontroly kvality v kritických chvíľach, čím sa vytvára štruktúrovaný pracovný tok, ktorý zabraňuje degradácii údajov v bode vstupu, dlho predtým, ako vôbec dosiahnu model AI.

Kľúčové piliere stratégie „Curated Intelligence“ musia zahŕňať:

• Sledovanie pôvodu: Poznanie pôvodu a vývoja kritických súborov údajov.
• Audit skreslenia: Implementácia pravidelných, štruktúrovaných kontrol demografických alebo historických skreslení v tréningových údajoch.
• Human-in-the-loop Validation: Začlenenie cyklov expertnej kontroly do fázy prípravy údajov a výstupu modelu.
• Krížové disciplinárne riadenie: Zapojenie etických odborníkov, doménových expertov a koncových používateľov do stratégie údajov, nielen inžinierov.

"Hrozí nám, že vybudujeme generáciu veštcov, ktoré hovoria s neuveriteľným presvedčením, ale sú šeptavé, pokiaľ ide o podstatu. Našou najväčšou výzvou už nie je modelová architektúra, je to základ, na ktorom je postavená. Ak sa tento základ - naše údaje - zlomí, všetko, čo na ňom postavíme, je vo svojej podstate nestabilné, bez ohľadu na to, aké pôsobivé to vyzerá."

Budovanie na stabilných základoch

Veľké obavy vedúceho pracovníka slúžia ako zásadná kontrola reality pre každú firmu, ktorá integruje AI. Inteligencia každého systému je ohraničená kvalitou jeho vstupov. Pre spoločnosti, ktoré chcú zodpovedne využívať AI, je prvým krokom pozrieť sa dovnútra a upevniť svoju vlastnú prevádzkovú dátovú infraštruktúru. Pred hľadaním odpovedí z veľkého jazykového modelu sa uistite, že otázky a kontext, ktorý poskytujete, sú zakorenené v jasnosti a pravdivosti. Uprednostňovaním čistých, štruktúrovaných a dobre spravovaných údajov v rámci svojich vlastných ekosystémov – pomocou nástrojov navrhnutých na vytvorenie takéhoto poriadku – si firmy môžu zabezpečiť, že sú súčasťou riešenia a zásobujú budúcnosť AI látkou, nielen hlukom. Cieľom nie je len inteligentnejší model, ale aj múdrejší, postavený na základe, ktorému môžeme dôverovať.

Často kladené otázky

Táto vedúca umelej inteligencie v hodnote 6,6 miliardy dolárov hovorí, že má jednu veľmi veľkú starosť

Vo búrkovom preteku o vývoj stále výkonnejšej umelej inteligencie dominujú titulky kôl financovania, schopnosti modelov a trhové ocenenia. Napriek tomu uprostred šialenstva zaznieva z najvyšších vrstiev odvetvia hlboká opatrnosť. Kľúčový vedúci pracovník popredného startupu s umelou inteligenciou v hodnote 6,6 miliardy dolárov nedávno zamával tým, že posunul konverzáciu z „čo môžeme vybudovať“ na „čo budujeme“. Jej primárnym záujmom nie je výpočtová sila alebo algoritmické prelomy; je to niečo oveľa zásadnejšie: integrita a kvalita údajov, ktorými kŕmime zviera.

Problém s odpadom, z evanjelia

Starosti vedúceho pracovníka závisia od klasického výpočtového princípu: Garbage In, Garbage Out (GIGO). V kontexte moderných veľkých jazykových modelov a systémov AI sú však stávky exponenciálne vyššie. Prešli sme z "Garbage Out" na "Polished, autoritatívne znejúci odpad." Modely umelej inteligencie sú trénované na rozsiahlych, neupravených oblastiach internetu – digitálnom úložisku, ktoré obsahuje brilantnosť spolu so zaujatosťou, faktami zmiešanými s výmyslom a odbornou analýzou ukrytou pod oceánmi názorov. Keď AI syntetizuje tento chaotický korpus, môže prezentovať chybné alebo škodlivé výstupy so sebavedomým tónom absolútnej pravdy. Obávame sa, že neúmyselne kodifikujeme naše historické a súčasné nedokonalosti do systémov, ktoré budú formovať budúce rozhodnutia vo financiách, zdravotníctve a správe vecí verejných.

Skryté náklady na dátový dlh

To vedie priamo ku konceptu „dátového dlhu“. Podobne ako technický dlh pri vývoji softvéru, aj dátový dlh vzniká, keď organizácie uprednostňujú škálovanie svojej AI pomocou ľahko dostupných, ale zle štruktúrovaných alebo nepreverených údajov. Tento dlh sa ticho zloží. Z krátkodobého hľadiska model funguje. Z dlhodobého hľadiska sa stáva labyrintom zakorenených nepresností a korelácií, ktoré sú astronomicky drahé a ťažko opraviteľné. Manažér argumentuje, že startupy aj podniky berú na seba katastrofálny dátový dlh vo svojom nápore na trh, čím riskujú budúce krízy dôveryhodnosti a funkčnosti. Tu sa strategický prístup k obchodným operáciám stáva kritickým. Platformy ako Mewayz sú vytvorené tak, aby bojovali proti prevádzkovému dlhu centralizáciou a štruktúrovaním kľúčových obchodných údajov – od CRM až po pracovné toky projektov – a zaisťujú, že keď spoločnosť dodáva údaje do svojich vlastných nástrojov AI, čerpajú ich z čistého a spoľahlivého zdroja, nie z digitálnej skládky.

Výzva pre kvalitnú inteligenciu a procesy zamerané na človeka

Navrhovaným riešením nie je zastaviť pokrok, ale zamerať sa na „Curated Intelligence“. To znamená implementáciu prísnych, nepretržitých procesov na audit údajov, získavanie zdrojov a označovanie. Vyžaduje si to ľudskú odbornosť na nastavenie mantinelov a definovanie etických a kvalitatívnych noriem, ktoré musia prvotné dáta spĺňať, kým sa stanú školiacim materiálom. Ide o posun od automatizácie za každú cenu k inteligentnému rozširovaniu. Táto filozofia siaha od tréningových údajov AI až po nástroje, ktoré tímy denne používajú. Modulárny obchodný operačný systém napríklad umožňuje lídrom navrhovať procesy, ktoré zaisťujú ľudský dohľad a kontroly kvality v kritických chvíľach, čím sa vytvára štruktúrovaný pracovný tok, ktorý zabraňuje degradácii údajov v bode vstupu, dlho predtým, ako vôbec dosiahnu model AI.

Budujeme na stabilných základoch

Veľké obavy vedúceho pracovníka slúžia ako zásadná kontrola reality pre každú firmu, ktorá integruje AI. Inteligencia každého systému je ohraničená kvalitou jeho vstupov. Pre spoločnosti, ktoré chcú zodpovedne využívať AI, je prvým krokom pozrieť sa dovnútra a upevniť svoju vlastnú prevádzkovú dátovú infraštruktúru. Pred hľadaním odpovedí z veľkého jazykového modelu sa uistite, že otázky a kontext, ktorý poskytujete, sú zakorenené v jasnosti a pravdivosti. Uprednostňovaním čistých, štruktúrovaných a dobre spravovaných údajov v rámci svojich vlastných ekosystémov – pomocou nástrojov navrhnutých na vytvorenie takéhoto poriadku – si firmy môžu zabezpečiť, že sú súčasťou riešenia a zásobujú budúcnosť AI látkou, nielen hlukom. Cieľom nie je len inteligentnejší model, ale aj múdrejší, postavený na základe, ktorému môžeme dôverovať.