Fi ase HN: RunAnywhere (YC W26) – AI Nsusuwii a Ɛyɛ Ntɛmntɛm wɔ Apple Silicon so

Yɛma wo akwaaba ba On-Device AI Daakye

Mmirikatuo a ɛfa AI inference a ɛyɛ ntɛm, ɛyɛ adwuma yie ho no reyɛ hyew, na ɛretwe ne ho afiri mununkum no ho akɔ yɛn pon so —na akɔ yɛn asen mu. Wɔ developers ne nnwuma a wɔkyekye AI-powered applications, ɛka kɛse ne latency a cloud-based GPU instances yɛ bottlenecks kɛse. Hyɛn RunAnywhere, mfiase a ɛyɛ nwonwa a efi Y Combinator W26 batch a ɛreyɛ turbocharging AI inference wɔ hardware afã bi a ɔpepem pii wɔ dedaw so: Apple Silicon. Wɔn adwuma no yɛ mmerɛw nanso tumi wom: sɛ wobebue tumi a edi mũ, a wɔmfaa nni dwuma a ɛwɔ M-series chips a ɛwɔ Macs mu no ano, na ama mpɔtam hɔ AI nkɔso ne dwumadie ayɛ ntɛmntɛm kɛseɛ na ɛho ka sua.

Saa nkɔsoɔ yi yɛ nhwɛsoɔ a ɛdi mu a ɛkyerɛ nnoɔma foforɔ a yɛbɔ ho ban wɔ Mewayz abɔdeɛ a nkwa wom nhyehyɛeɛ no mu. Yɛgye di sɛ adwumayɛ daakye gyina modular, nnwinnadeɛ a ɛyɛ adwuma bom a ɛma akuo tumi sɛ wɔbɛkyekyere adwumayɛ nhyehyɛeɛ a tumi wom a wɔmfa wɔn ntoto mu wɔ adetɔnfoɔ baako mu. RunAnywhere’s mfiridwuma no ne saa anisoadehunu yi hyia pɛpɛɛpɛ, ɛde fapem a ɛbɛtumi ama awoɔ ntoatoasoɔ foforɔ a ɛwɔ on-device AI applications mu ahoɔden wɔ modular business OS mu.

Nea enti a On-Device AI Inference yɛ Game-Changer

Atetesɛm mu no, na sɛ wɔde AI nhwɛsoɔ a ɛyɛ den di dwuma a, na ɛhia sɛ wɔde data kɔ akyirikyiri seva a ɛwɔ tumi wɔ mununkum no mu. Ɛwom sɛ etu mpɔn de, nanso saa kwan yi de sintɔ ahorow a efi awosu mu ba: bere a wɔde kata bere a wɔretwɛn mmuae, adwumayɛ ho ka a ɛkɔ so a ɛkɔ soro bere a wɔde di dwuma no, ne data kokoamsɛm ho haw ahorow a ebetumi aba. Apple Silicon Macs, a ɛwɔ wɔn memory architecture a wɔaka abom ne Neural Engines a ahoɔden wom no, de ɔkwan foforo a ɛyɛ den ma. Nanso, wɔn a wɔyɛ no apere sɛ wɔde saa hardware yi bedi dwuma koraa, na wɔtaa siesie wɔn ho sɛ wɔbɛyɛ adwuma a ɛnyɛ papa. RunAnywhere di eyi ho dwuma denam softwea layer a ɛyɛ nwonwa a ɛma mfonini ahorow no yɛ papa ma ɛyɛ adwuma natively wɔ Apple’s hardware so, na ɛma ahoɔhare ne adwumayɛ yɛ kɛse.

Wɔ nnwuma a wɔde platform te sɛ Mewayz di dwuma de ka wɔn adwuma sohwɛ, CRM, ne nkitahodi nnwinnade bom no, eyi kyerɛ sɛ nsɛm a wɔaboaboa ano a AI de di dwuma, data nhwehwɛmu, ne adetɔfo nhumu betumi asi ntɛm ara na ahobammɔ wom wɔ odwumayɛni bi mpɔtam hɔ mfiri so. Ɛtew ahotoso a wɔde to abɔnten API ahorow so na ɛma data a ɛho hia no sie adwumakuw no tumi ase.

Sɛnea RunAnywhere Bue Adwumayɛ a Ɛsen Biara

RunAnywhere nnyɛ wrapper a ɛnyɛ den ma frameworks a ɛwɔ hɔ dada no ara kwa. Kuw no akɔ akyiri wɔ Apple’s chips no nhyehyɛe mu de ayɛ compiler ne runtime a eyi adwumayɛ mu nsɛnnennen fi hɔ. Wɔn kokoam sauce no fa ɔkwan a ɛwɔ afã horow pii ho:

• Advanced Kernel Fusion: Dwumadie ahodoɔ a wɔde bɛka abom ayɛ no kernel baako a wɔayɛ no yie de atew memory movement so na ama kɔmputa no ayɛ yie wɔ GPU ne Neural Engine so.
• Intelligent Memory Management: Apple Silicon memory a wɔaka abom no a wɔde bedi dwuma akosi ase, a ɛtew overhead a ɛtaa bata data a wɔde kɔ CPU ne GPU ntam no so kɛse.
• Hardware-Specific Optimizations: Nkontaabuo a wde bhy M-series chip biara mu cores pɔtee (CPU, GPU, NE) so, ahwɛ sɛ adwuma a ɛfata no kɔ chip no fã a ɛfata wɔ bere a ɛfata mu.

Nea afi mu aba no yɛ osuahu a ɛnyɛ den ma developers. Wobetumi afa standard models na, sɛ wɔyɛ code nsakrae kakraa bi a, wɔde tu mmirika 2-5x ntɛmntɛm sen ano aduru a atwam. Saa adwumayɛ nkɔsoɔ yi ma ɛyɛ yie sɛ wɔde mfiri akɛseɛ a ɛyɛ nwonwa bɛtu mmirika wɔ mpɔtam hɔ, na ɛbue akwan foforɔ a ɛbɛtumi aba ama berɛ ankasa mu ɔdio ne video dwumadie, koodu awoɔ ntoatoasoɔ a ɛyɛ den, ne nea ɛkeka ho.

RunAnywhere a wɔde bɛka Modular Business OS ho

Nyansapɛ a ɛwɔ Mewayz akyi ne sɛ ɛsɛ sɛ nnwinnade a eye sen biara no bom yɛ adwuma a ɛnyɛ den de yɛ adwumayɛ nhyehyɛe a tumi wom na ɛyɛ mmerɛw ma w’adwuma. RunAnywhere yɛ quintessential "module" wɔ saa anisoadehu yi mu. Fa no sɛ content marketing kuw bi a wɔde Mewayz redi dwuma: ɔkyerɛwfo betumi de AI boafo, a RunAnywhere na ɛma ahoɔden wɔ mpɔtam hɔ, adi dwuma de ayɛ draft copy a enni akyiri biara. Bere koro no ara mu no, adetɔn kuw no betumi anya CRM nkabom a ɛde on-device AI di dwuma de hwehwɛ frɛ nkyerɛwee mu na ɛhyɛ anammɔn a edi hɔ ho nyansa wɔ bere ankasa mu, ne nyinaa a ɛremmɔ abɔnten sova bi da.

a wɔde ahyɛ mu "Ɛdenam AI nsusuwii a yɛde fi mununkum no so kɔ ano no so no, ɛnyɛ sɛ yɛrema ahoɔhare atu mpɔn kɛkɛ; yɛrema ankorankoro, mmuae, na ɛho ka sua application kuw foforo atumi ayɛ adwuma. Eyi yɛ nsakrae titiriw ma developers ne nnwuma nyinaa."

Saa kwan a ɛdi kan wɔ mpɔtam hɔ yi ne Mewayz bɔhyɛ a ɛfa data tumidi ne ɔdefoɔ kokoamsɛm ho no hyia pɛpɛɛpɛ. Nnwumakuw betumi ayɛ adwumayɛ nhyehyɛe a nyansa wom a wonim sɛ wɔn ankasa data da so ara yɛ nea ahobammɔ wom wɔ wɔn ankasa mfiri so, bere a wɔda so ara nya mfaso fi tumi a ɛwɔ AI nhwɛso ahorow a ɛkɔ akyiri mu.

Ɔkwan a ɛda yɛn anim ma Mpɔtam hɔ AI Nkɔsoɔ

RunAnywhere a wɔde sii hɔ no yɛ ade titiriw a ɛho hia wɔ AI a wɔde demokrase bɛhyɛ mu no mu. Ɛdenam Apple Silicon a wɔbɛma ayɛ beae a edi kan a wɔde bɛyɛ AI nsusuwii so no, wɔrema wɔn a wɔyɛ ne nnwumakuw ahorow pii tumi ma wɔakyekye na wɔde nneɛma a nyansa wom adi dwuma. Bere a nwomakorabea a ɛwɔ nhwɛsoɔ a wɔboa no nyin na nkɔsoɔ no kɔ anim mpo no, yɛbɛtumi ahwɛ kwan sɛ yɛbɛhunu dwumadie foforɔ a ɛyɛ ntɛm, ɛyɛ kokoam, na ne boɔ nyɛ den sɛ wɔde bedi dwuma no bɛpae.

Wɔ Mewayz mpɔtam hɔfoɔ fam no, yei kyerɛ sɛ nnwinnadeɛ a wode di dwuma de yɛ w'adwuma no reyɛ anya nyansa kɛseɛ na ayɛ mmuaeɛ kɛseɛ. Mfiridwuma te sɛ RunAnywhere a wɔde bɛka yɛn modular OS ho tẽẽ no bɛma akuw ahorow ayɛ adwumayɛ nhyehyɛe a wɔahyɛ da ayɛ na nyansa wom ankasa, na abue kwan ama adwuma daakye a etu mpɔn na ɛyɛ mmerɛw. Bere a frictionless, on-device AI no aba.

Nsɛmmisa a Wɔtaa Bisa

Yɛma wo akwaaba ba On-Device AI

Mmirikatuo a ɛfa AI inference a ɛyɛ ntɛm, ɛyɛ adwuma yie ho no reyɛ hyew, na ɛretwe ne ho afiri mununkum no ho akɔ yɛn pon so —na akɔ yɛn asen mu. Wɔ developers ne nnwuma a wɔkyekye AI-powered applications, ɛka kɛse ne latency a cloud-based GPU instances yɛ bottlenecks kɛse. Hyɛn RunAnywhere, a ɛyɛ mfitiaseɛ a ɛyɛ nwonwa a ɛfiri Y Combinator W26 batch a ɛreyɛ turbocharging AI inference wɔ hardware afã bi a ɔpepem pii wɔ dedaw: Apple Silicon. Wɔn adwuma no yɛ mmerɛw nanso tumi wom: sɛ wobebue tumi a edi mũ, a wɔmfaa nni dwuma a ɛwɔ M-series chips a ɛwɔ Macs mu no ano, na ama mpɔtam hɔ AI nkɔso ne dwumadie ayɛ ntɛmntɛm kɛseɛ na ɛho ka sua.

Nea enti a On-Device AI Inference yɛ Game-Changer

Atetesɛm mu no, na sɛ wɔde AI nhwɛsoɔ a ɛyɛ den di dwuma a, na ɛhia sɛ wɔde data kɔ akyirikyiri seva a ɛwɔ tumi wɔ mununkum no mu. Ɛwom sɛ etu mpɔn de, nanso saa kwan yi de sintɔ ahorow a efi awosu mu ba: bere a wɔde kata bere a wɔretwɛn mmuae, adwumayɛ ho ka a ɛkɔ so a ɛkɔ soro bere a wɔde di dwuma no, ne data kokoamsɛm ho haw ahorow a ebetumi aba. Apple Silicon Macs, a ɛwɔ wɔn memory architecture a wɔaka abom ne Neural Engines a ahoɔden wom no, de ɔkwan foforo a ɛyɛ den ma. Nanso, wɔn a wɔyɛ no apere sɛ wɔde saa hardware yi bedi dwuma koraa, na wɔtaa siesie wɔn ho sɛ wɔbɛyɛ adwuma a ɛnyɛ papa. RunAnywhere di eyi ho dwuma denam software layer a ɛyɛ nwonwa a ɛma mfonini ahorow no yɛ papa ma ɛyɛ adwuma wɔ Apple’s hardware so ankasa, na ɛma ahoɔhare ne adwumayɛ yɛ kɛse.

Sɛnea RunAnywhere Bue Adwumayɛ a Ɛsen Biara

RunAnywhere nnyɛ wrapper a ɛnyɛ den ma frameworks a ɛwɔ hɔ dada no ara kwa. Kuw no akɔ akyiri wɔ Apple’s chips no nhyehyɛe mu de ayɛ compiler ne runtime a eyi adwumayɛ mu nsɛnnennen fi hɔ. Wɔn kokoam sauce no fa ɔkwan a ɛwɔ afã horow pii ho:

RunAnywhere a wɔde bɛka Modular Business OS ho

Nyansapɛ a ɛwɔ Mewayz akyi ne sɛ ɛsɛ sɛ nnwinnade a eye sen biara no bom yɛ adwuma a ɛnyɛ den de yɛ adwumayɛ nhyehyɛe a tumi wom na ɛyɛ mmerɛw ma w’adwuma. RunAnywhere yɛ quintessential "module" wɔ saa anisoadehu yi mu. Fa no sɛ content marketing kuw bi a wɔde Mewayz redi dwuma: ɔkyerɛwfo betumi de AI boafo, a RunAnywhere na ɛma ahoɔden wɔ mpɔtam hɔ, adi dwuma de ayɛ draft copy a enni akyiri biara. Bere koro no ara mu no, adetɔn kuw no betumi anya CRM nkabom a ɛde on-device AI di dwuma de hwehwɛ frɛ nkyerɛwee mu na ɛhyɛ anammɔn a edi hɔ ho nyansa wɔ bere ankasa mu, ne nyinaa a ɛremmɔ abɔnten sova bi da.

Ɔkwan a ɛda yɛn anim ma Mpɔtam hɔ AI Nkɔsoɔ

RunAnywhere a wɔde sii hɔ no yɛ ade titiriw a ɛho hia wɔ AI a wɔde demokrase bɛhyɛ mu no mu. Ɛdenam Apple Silicon a wɔbɛma ayɛ beae a edi kan a wɔde bɛyɛ AI nsusuwii so no, wɔrema wɔn a wɔyɛ ne nnwumakuw ahorow pii tumi ma wɔakyekye na wɔde nneɛma a nyansa wom adi dwuma. Bere a nwomakorabea a ɛwɔ nhwɛsoɔ a wɔboa no nyin na nkɔsoɔ no kɔ anim mpo no, yɛbɛtumi ahwɛ kwan sɛ yɛbɛhunu dwumadie foforɔ a ɛyɛ ntɛm, ɛyɛ kokoam, na ne boɔ nyɛ den sɛ wɔde bedi dwuma no bɛpae.