Стартувајте HN: RunAnywhere (YC W26) – Побрзо заклучување со вештачка интелигенција на силиконот на Apple

Добре дојдовте во иднината на вештачката интелигенција на уред

Трката за побрзо, поефикасно заклучување со вештачка интелигенција се вжештува и се оддалечува од облакот и се движи кон нашите клупи - и во нашите скутови. За програмерите и бизнисите кои градат апликации напојувани со вештачка интелигенција, високата цена и латентноста на инстанците на графичкиот процесор базирани на облак се значајни тесни грла. Влезете во RunAnywhere, револуционерен стартап од серијалот Y Combinator W26 што турбо полначи заклучоци за вештачка интелигенција на парче хардвер што веќе го поседуваат милиони: Apple Silicon. Нивната мисија е едноставна, но моќна: да го отклучат целосниот, неискористен потенцијал на чиповите од серијата М во Mac компјутери, правејќи го локалниот развој и распоредување на вештачката интелигенција драматично побрз и поисплатлив.

Овој пробив е совршен пример за видот на иновација што ја застапуваме во рамките на екосистемот Mewayz. Ние веруваме дека иднината на бизнисот лежи во модуларните, интероперабилни алатки кои ги овластуваат тимовите да градат моќни работни текови без да бидат заклучени во еден продавач. Технологијата на RunAnywhere совршено се усогласува со оваа визија, нудејќи основен слој што би можел да напојува нова генерација на апликации за вештачка интелигенција на уредот во модуларен деловен оперативен систем.

Зошто заклучокот за вештачката интелигенција на уредот е менувач на играта

Традиционално, извршувањето на сложени модели со вештачка интелигенција бара испраќање податоци до моќни далечински сервери во облакот. Иако е ефикасен, овој пристап доаѓа со својствени недостатоци: доцнење додека се чека одговор, тековни оперативни трошоци кои се зголемуваат со користењето и потенцијални проблеми за приватноста на податоците. Apple Silicon Macs, со нивната обединета мемориска архитектура и моќни невронски мотори, претставуваат привлечна алтернатива. Сепак, програмерите се мачеа целосно да го искористат овој хардвер, честопати решавајќи се за неоптимални перформанси. RunAnywhere го решава ова со обезбедување на софистициран софтверски слој што ги оптимизира моделите да се извршуваат национално на хардверот на Apple, максимизирајќи ја брзината и ефикасноста.

За бизнисите кои користат платформа како Mewayz за да ги интегрираат своите алатки за управување со проекти, CRM и комуникациски алатки, ова значи дека резимеата, анализите на податоци и увидите на клиентите напојувани со вештачка интелигенција може да се случат веднаш и безбедно на локалната машина на вработениот. Ја намалува зависноста од надворешни API и ги задржува чувствителните податоци под контрола на компанијата.

Како RunAnywhere ги отклучува врвните перформанси

RunAnywhere не е само едноставна обвивка за постоечките рамки. Тимот навлезе длабоко во архитектурата на чиповите на Apple за да создаде компајлер и време на работа што ги елиминира тесните грла во перформансите. Нивниот таен сос вклучува повеќестран пристап:

• Напредно спојување на кернелот: Комбинирање на повеќе операции во едно, оптимизирано јадро за да се минимизира движењето на меморијата и да се зголеми ефикасноста на пресметките на графичкиот процесор и нервниот мотор.
• Интелигентно управување со меморијата: Искористување на унифицираната меморија на силиконот на Apple до максимум, драстично намалувајќи ги трошоците што обично се поврзани со преместување податоци помеѓу процесорот и графичкиот процесор.
• Специфични оптимизации за хардвер: Приспособување на пресметките на специфичните јадра (CPU, GPU, NE) на секој чип од M-серијата, обезбедувајќи дека вистинскиот обем на работа оди на десниот дел од чипот во вистинско време.

Резултатот е беспрекорно искуство за програмерите. Тие можат да земат стандардни модели и, со минимални промени на кодот, да ги извршуваат 2-5 пати побрзо отколку со претходните решенија. Ова засилување на перформансите го прави изводливо локалното работење на поголеми, пософистицирани модели, отворајќи нови можности за обработка на аудио и видео во реално време, сложено генерирање кодови и многу повеќе.

Интегрирање на RunAnywhere во модуларен деловен оперативен систем

Филозофијата зад Mewayz е дека најдобрите алатки треба да работат заедно беспрекорно за да создадат моќен и флексибилен оперативен систем за вашиот бизнис. RunAnywhere е суштински „модул“ во оваа визија. Замислете тим за маркетинг на содржина што користи Mewayz: писателот може да користи асистент со вештачка интелигенција, напојуван локално од RunAnywhere, за да генерира нацрт-копија без никакво задоцнување. Истовремено, продажниот тим би можел да има интеграција на CRM што користи вештачка интелигенција на уредот за да ги анализира транскриптите на повиците и да предложи следните чекори во реално време, сето тоа без притискање на надворешен сервер.

„Со поместување на заклучоците за вештачката интелигенција од облакот на работ, ние не само што ја подобруваме брзината, туку овозможуваме нова класа приватни, одговорни и економични апликации. Ова е фундаментална промена и за програмерите и за бизнисите“.

Овој пристап од локален прв план совршено се поврзува со посветеноста на Mewayz за суверенитет на податоците и приватноста на корисниците. Бизнисите можат да градат интелигентни работни текови знаејќи дека нивните сопственички податоци остануваат безбедни на нивните сопствени уреди, а сепак имаат корист од моќта на напредните модели со вештачка интелигенција.

Патот напред за локалниот развој на вештачката интелигенција

Лансирањето на RunAnywhere означува значајна пресвртница во демократизацијата на вештачката интелигенција. Со тоа што Apple Silicon го направија првокласна платформа за заклучување со вештачка интелигенција, тие им даваат овластување на поширок опсег на програмери и компании да градат и распоредуваат интелигентни функции. Како што расте библиотеката со поддржани модели, а оптимизациите стануваат уште понапредни, можеме да очекуваме да видиме експлозија на иновативни апликации кои се побрзи, поприватни и поевтини за работа.

За заедницата Mewayz, ова значи дека алатките што ги користите за водење на вашиот бизнис ќе станат многу попаметни и поодговорни. Интеграцијата на технологии како RunAnywhere директно во нашиот модуларен оперативен систем ќе им овозможи на тимовите да креираат навистина нарачани и интелигентни работни процеси, отворајќи го патот за поефикасна и поинтуитивна иднина на работа. Ерата на вештачка интелигенција без триење, на уредот е тука.

Често поставувани прашања

Добре дојдовте во иднината на вештачката интелигенција на уред

Трката за побрзо, поефикасно заклучување со вештачка интелигенција се вжештува и се оддалечува од облакот и се движи кон нашите клупи - и во нашите скутови. За програмерите и бизнисите кои градат апликации напојувани со вештачка интелигенција, високата цена и латентноста на инстанците на графичкиот процесор базирани на облак се значајни тесни грла. Влезете во RunAnywhere, револуционерен стартап од серијалот Y Combinator W26 кој турбо полначи заклучоци за вештачка интелигенција на парче хардвер што веќе го поседуваат милиони: Apple Silicon. Нивната мисија е едноставна, но моќна: да го отклучат целосниот, неискористен потенцијал на чиповите од серијата М во Mac компјутери, правејќи го локалниот развој и распоредување на вештачката интелигенција драматично побрз и поисплатлив.

Зошто заклучокот за вештачката интелигенција на уред е менувач на играта

Традиционално, извршувањето на сложени модели со вештачка интелигенција бара испраќање податоци до моќни далечински сервери во облакот. Иако е ефикасен, овој пристап доаѓа со својствени недостатоци: доцнење додека се чека одговор, тековни оперативни трошоци кои се зголемуваат со користењето и потенцијални проблеми за приватноста на податоците. Apple Silicon Macs, со нивната обединета мемориска архитектура и моќни невронски мотори, претставуваат привлечна алтернатива. Сепак, програмерите се мачеа целосно да го искористат овој хардвер, честопати решавајќи се за неоптимални перформанси. RunAnywhere го решава ова со обезбедување на софистициран софтверски слој кој ги оптимизира моделите да работат природно на хардверот на Apple, максимизирајќи ја брзината и ефикасноста.

Како RunAnywhere ги отклучува врвните перформанси

RunAnywhere не е само едноставна обвивка за постоечките рамки. Тимот навлезе длабоко во архитектурата на чиповите на Apple за да создаде компајлер и време на работа што ги елиминира тесните грла во перформансите. Нивниот таен сос вклучува повеќестран пристап:

Интегрирање на RunAnywhere во модуларен деловен оперативен систем

Филозофијата зад Mewayz е дека најдобрите алатки треба да работат заедно беспрекорно за да создадат моќен и флексибилен оперативен систем за вашиот бизнис. RunAnywhere е суштински „модул“ во оваа визија. Замислете тим за маркетинг на содржина што користи Mewayz: писателот може да користи асистент со вештачка интелигенција, напојуван локално од RunAnywhere, за да генерира нацрт-копија без никакво задоцнување. Истовремено, продажниот тим би можел да има интеграција на CRM што користи вештачка интелигенција на уредот за да ги анализира транскриптите на повиците и да предложи следните чекори во реално време, сето тоа без притискање на надворешен сервер.

Патот напред за локалниот развој на вештачката интелигенција

Лансирањето на RunAnywhere означува значајна пресвртница во демократизацијата на вештачката интелигенција. Со тоа што Apple Silicon го направија првокласна платформа за заклучување со вештачка интелигенција, тие им даваат овластување на поширок опсег на програмери и компании да градат и распоредуваат интелигентни функции. Како што расте библиотеката со поддржани модели, а оптимизациите стануваат уште понапредни, можеме да очекуваме да видиме експлозија на иновативни апликации кои се побрзи, поприватни и поевтини за работа.