Paleisti HN: RunAnywhere (YC W26) – greitesnė AI išvada apie Apple Silicon

Sveiki atvykę į įrenginio AI ateitį

Lenktynės dėl greitesnio ir efektyvesnio DI išvadų įkaista, ir jis tolsta nuo debesies ir ant mūsų stalų – ir į mūsų ratus. Kūrėjams ir įmonėms, kuriančioms AI pagrįstas programas, didelė debesyje pagrįstų GPU egzempliorių kaina ir delsa yra didelė kliūtis. Įveskite RunAnywhere – novatorišką paleidimą iš Y Combinator W26 paketo, kuris suaktyvina AI išvadas apie milijonus jau turimos aparatinės įrangos: Apple Silicon. Jų misija paprasta, bet galinga: atskleisti visą neišnaudotą M serijos lustų potencialą „Mac“ kompiuteriuose, kad vietinis AI kūrimas ir diegimas būtų žymiai greitesnis ir ekonomiškesnis.

Šis laimėjimas yra puikus pavyzdys, kokių naujovių mes palaikome Mewayz ekosistemoje. Manome, kad verslo ateitis slypi moduliniuose, suderinamuose įrankiuose, kurie įgalina komandas kurti galingas darbo eigas neprisijungus prie vieno tiekėjo. „RunAnywhere“ technologija puikiai dera su šia vizija, siūlydama pagrindinį sluoksnį, galintį maitinti naujos kartos įrenginyje esančias AI programas modulinėje verslo OS.

Kodėl Įrenginio AI išvada yra žaidimo keitiklis

Tradiciškai norint paleisti sudėtingus AI modelius, duomenis reikėjo siųsti į galingus nuotolinius debesies serverius. Nors šis metodas yra veiksmingas, jis turi būdingų trūkumų: delsa laukiant atsakymo, nuolatinės veiklos sąnaudos, kurios didėja naudojant naudojimą, ir galimos duomenų privatumo problemos. „Apple Silicon Mac“ kompiuteriai su savo vieninga atminties architektūra ir galingais neuroniniais varikliais yra patraukli alternatyva. Tačiau kūrėjai stengėsi visiškai išnaudoti šią aparatinę įrangą, dažnai pasitenkindami neoptimaliu našumu. „RunAnywhere“ išsprendžia šią problemą pateikdama sudėtingą programinės įrangos sluoksnį, kuris optimizuoja modelius, kad jie veiktų natūraliai naudojant „Apple“ aparatinę įrangą, taip padidinant greitį ir efektyvumą.

Įmonėms, naudojančioms tokią platformą kaip „Mewayz“, kad galėtų integruoti savo projektų valdymą, CRM ir komunikacijos įrankius, tai reiškia, kad dirbtinio intelekto pagrindu sukurtos santraukos, duomenų analizė ir klientų įžvalgos gali būti atliekamos akimirksniu ir saugiai darbuotojo vietiniame kompiuteryje. Tai sumažina priklausomybę nuo išorinių API, o neskelbtinus duomenis įmonė gali kontroliuoti.

Kaip RunAnywhere atrakina didžiausią našumą

RunAnywhere yra ne tik paprastas esamų struktūrų paketas. Komanda giliai įsigilino į „Apple“ lustų architektūrą, kad sukurtų kompiliatorių ir vykdymo laiką, kuris pašalintų našumo kliūtis. Jų slaptas padažas apima daugialypį požiūrį:

• Išplėstinis branduolio sujungimas: kelių operacijų sujungimas į vieną optimizuotą branduolį, siekiant sumažinti atminties judėjimą ir maksimaliai padidinti GPU ir neuroninio variklio skaičiavimo efektyvumą.
• Išmanusis atminties valdymas: maksimaliai išnaudokite vieningą „Apple Silicon“ atmintį, drastiškai sumažindami pridėtines išlaidas, paprastai susijusias su duomenų perkėlimu tarp procesoriaus ir GPU.
• Specialios aparatinės įrangos optimizavimas: skaičiavimų pritaikymas prie konkrečių kiekvieno M serijos lusto branduolių (CPU, GPU, NE), užtikrinant, kad reikiamas darbo krūvis tinkamu laiku patektų į reikiamą lusto dalį.

Rezultatas yra sklandi kūrėjų patirtis. Jie gali paimti standartinius modelius ir su minimaliais kodo pakeitimais paleisti juos 2–5 kartus greičiau nei naudojant ankstesnius sprendimus. Šis našumo padidinimas leidžia vietoje paleisti didesnius, sudėtingesnius modelius, atveriant naujas galimybes apdoroti garso ir vaizdo įrašus realiuoju laiku, generuoti sudėtingą kodą ir dar daugiau.

RunAnywhere integravimas į modulinę verslo OS

Mewayz filosofija yra ta, kad geriausi įrankiai turi sklandžiai veikti kartu, kad būtų sukurta galinga ir lanksti operacinė sistema jūsų verslui. „RunAnywhere“ yra esminis šios vizijos „modulis“. Įsivaizduokite turinio rinkodaros komandą, naudojančią „Mewayz“: rašytojas gali naudoti AI padėjėją, kurį vietoje maitina „RunAnywhere“, kad sukurtų juodraščio kopiją be jokio vėlavimo. Tuo pačiu metu pardavimų komanda galėtų turėti CRM integraciją, kuri naudoja įrenginio AI analizuoti skambučių nuorašus ir siūlyti tolesnius veiksmus realiuoju laiku, niekad nesikreipiant į išorinį serverį.

"Perkeldami dirbtinio intelekto išvadas iš debesies į kraštą, mes ne tik padidiname greitį, bet ir įgaliname naują privačių, reaguojančių ir ekonomiškai efektyvių programų klasę. Tai esminis pokytis kūrėjams ir įmonėms."

Šis pirmiausia vietos požiūris puikiai dera su „Mewayz“ įsipareigojimu užtikrinti duomenų suverenumą ir naudotojų privatumą. Įmonės gali kurti išmaniąsias darbo eigas, žinodamos, kad jų patentuoti duomenys išlieka saugūs jų įrenginiuose, tačiau vis tiek naudojasi pažangių AI modelių galia.

Vietinio AI plėtros kelias

RunAnywhere paleidimas žymi reikšmingą AI demokratizavimo etapą. Padarę „Apple Silicon“ aukščiausios klasės AI išvadų platforma, jie suteikia galimybę platesniam kūrėjų ir įmonių ratui kurti ir diegti išmaniąsias funkcijas. Kadangi palaikomų modelių biblioteka auga, o optimizavimas tampa dar tobulesnis, galime tikėtis spartesnių, privatesnių ir pigesnių naujoviškų programų sprogimo.

Mewayz bendruomenei tai reiškia, kad įrankiai, kuriuos naudojate verslui valdyti, taps daug išmanesni ir jautresni. Tokių technologijų kaip „RunAnywhere“ integravimas tiesiai į mūsų modulinę OS leis komandoms sukurti tikrai pagal užsakymą pritaikytas ir išmanias darbo eigas, atveriant kelią efektyvesnei ir intuityvesnei darbo ateičiai. Atėjo be trinties, įrenginio AI era.

Dažniausiai užduodami klausimai

Sveiki atvykę į įrenginio AI ateitį

Lenktynės dėl greitesnio ir efektyvesnio DI išvadų įkaista, ir jis tolsta nuo debesies ir ant mūsų stalų – ir į mūsų ratus. Kūrėjams ir įmonėms, kuriančioms AI pagrįstas programas, didelė debesyje pagrįstų GPU egzempliorių kaina ir delsa yra didelė kliūtis. Įveskite „RunAnywhere“ – novatorišką paleidimą iš „Y Combinator W26“ paketo, kuris suaktyvina AI išvadas apie milijonams jau priklausančią aparatinę įrangą: „Apple Silicon“. Jų misija paprasta, bet galinga: atskleisti visą neišnaudotą M serijos lustų potencialą „Mac“ kompiuteriuose, kad vietinis AI kūrimas ir diegimas būtų žymiai greitesnis ir ekonomiškesnis.

Kodėl Įrenginio AI išvada yra žaidimo keitiklis

Tradiciškai norint paleisti sudėtingus AI modelius, duomenis reikėjo siųsti į galingus nuotolinius debesies serverius. Nors šis metodas yra veiksmingas, jis turi būdingų trūkumų: delsa laukiant atsakymo, nuolatinės veiklos sąnaudos, kurios didėja naudojant naudojimą, ir galimos duomenų privatumo problemos. „Apple Silicon Mac“ kompiuteriai su savo vieninga atminties architektūra ir galingais neuroniniais varikliais yra patraukli alternatyva. Tačiau kūrėjai stengėsi visiškai išnaudoti šią aparatinę įrangą, dažnai pasitenkindami neoptimaliu našumu. „RunAnywhere“ tai išsprendžia pateikdama sudėtingą programinės įrangos sluoksnį, kuris optimizuoja modelius, kad jie veiktų naudojant „Apple“ aparatinę įrangą, taip padidinant greitį ir efektyvumą.

Kaip RunAnywhere atrakina didžiausią našumą

RunAnywhere yra ne tik paprastas esamų struktūrų paketas. Komanda giliai įsigilino į „Apple“ lustų architektūrą, kad sukurtų kompiliatorių ir vykdymo laiką, kuris pašalintų našumo kliūtis. Jų slaptas padažas apima daugialypį požiūrį:

RunAnywhere integravimas į modulinę verslo OS

Mewayz filosofija yra ta, kad geriausi įrankiai turi sklandžiai veikti kartu, kad būtų sukurta galinga ir lanksti operacinė sistema jūsų verslui. „RunAnywhere“ yra esminis šios vizijos „modulis“. Įsivaizduokite turinio rinkodaros komandą, naudojančią „Mewayz“: rašytojas gali naudoti AI padėjėją, kurį vietoje maitina „RunAnywhere“, kad sukurtų juodraščio kopiją be jokio vėlavimo. Tuo pačiu metu pardavimų komanda galėtų turėti CRM integraciją, kuri naudoja įrenginio AI analizuoti skambučių nuorašus ir siūlyti tolesnius veiksmus realiuoju laiku, niekad nesikreipiant į išorinį serverį.

Vietinio AI plėtros kelias į priekį

RunAnywhere paleidimas žymi reikšmingą AI demokratizavimo etapą. Padarę „Apple Silicon“ aukščiausios klasės AI išvadų platforma, jie suteikia galimybę platesniam kūrėjų ir įmonių ratui kurti ir diegti išmaniąsias funkcijas. Kadangi palaikomų modelių biblioteka auga, o optimizavimas tampa dar tobulesnis, galime tikėtis spartesnių, privatesnių ir pigesnių naujoviškų programų sprogimo.