E hoʻokuʻu i ka HN: RunAnywhere (YC W26) - ʻOi aku ka wikiwiki o AI Inference ma Apple Silicon

Wele mai i ka wā e hiki mai ana o AI ma ka polokalamu

Ke piʻi nei ka heihei no ka hoʻoholo AI ʻoi aku ka wikiwiki a maikaʻi hoʻi, a ke neʻe nei ia mai ke ao a ma luna o kā mākou mau pākaukau—a i loko o ko mākou mau ʻūhā. No nā mea hoʻomohala a me nā ʻoihana e kūkulu ana i nā noi AI-powered, ʻo ke kumukūʻai kiʻekiʻe a me ka latency o nā hiʻohiʻona GPU e pili ana i ke ao he mau bottlenecks nui. E komo RunAnywhere, kahi hoʻomaka hoʻomaka ʻana mai ka pūʻulu Y Combinator W26 e hoʻopiʻi nei i ka manaʻo AI ma kahi ʻāpana miliona miliona i loaʻa: Apple Silicon. He mea maʻalahi kā lākou ʻoihana akā ikaika: e wehe i ka mea hiki ʻole i hoʻohana ʻia o nā chips M-series ma Macs, e hoʻonui i ka hoʻomohala ʻana a me ka hoʻolaha ʻana o AI kūloko i ka wikiwiki a ʻoi aku ka maikaʻi.

He laʻana maikaʻi kēia holomua o ke ʻano o nā mea hou a mākou e lanakila ai i loko o ka kaiaola Mewayz. Manaʻo mākou aia ka wā e hiki mai ana o ka ʻoihana i nā mea hana modular, interoperable e hoʻoikaika i nā hui e kūkulu i nā kahe hana ikaika me ka ʻole o ka laka ʻana i kahi mea kūʻai hoʻokahi. Kūlike pono ka ʻenehana o RunAnywhere me kēia ʻike, e hāʻawi ana i kahi papa kumu e hiki ai ke hoʻoikaika i ka hanauna hou o nā polokalamu AI ma ka polokalamu ma loko o kahi OS pāʻoihana modular.

No ke aha he mea hoʻololi pāʻani ʻo AI Inference ma ka polokalamu

Ma ke ʻano maʻamau, pono ka hoʻouna ʻana i nā ʻikepili i nā kikowaena mamao ikaika i ke ao. ʻOiai maikaʻi, hele mai kēia ala me nā drawback inherent: latency ʻoiai e kali ana i kahi pane, hoʻomau nā kumukūʻai hana e like me ka hoʻohana ʻana, a me nā hopohopo pilikino ʻikepili. ʻO Apple Silicon Macs, me kā lākou hoʻomanaʻo hoʻomanaʻo hoʻohui a me nā Neural Engines ikaika, e hōʻike i kahi koho koʻikoʻi. Eia nō naʻe, ua paʻakikī nā mea hoʻomohala e hoʻohana piha i kēia hāmeʻa, hoʻonohonoho pinepine ʻia no ka hana suboptimal. Hoʻoponopono ʻo RunAnywhere i kēia ma o ka hāʻawi ʻana i kahi papa polokalamu maʻalahi e hoʻopololei ana i nā hiʻohiʻona e holo ma ke ʻano maoli ma ka lako o Apple, e hoʻonui i ka wikiwiki a me ka pono.

No nā ʻoihana e hoʻohana ana i kahi paepae e like me Mewayz e hoʻohui i kā lākou hoʻokele papahana, CRM, a me nā mea hana kamaʻilio, ʻo ia ka manaʻo o nā hōʻuluʻulu mana AI, ka ʻikepili ʻikepili, a me nā ʻike mea kūʻai aku hiki ke hiki koke a paʻa i ka mīkini kūloko o kahi limahana. Hoʻemi ia i ka hilinaʻi ʻana i nā API waho a mālama i ka ʻikepili koʻikoʻi i loko o ka mana o ka hui.

Pehea e wehe ai ʻo RunAnywhere i ka Peak Performance

ʻAʻole ʻo RunAnywhere kahi wīwī maʻalahi no nā frameworks e kū nei. Ua komo ka hui i ka hohonu i ka hoʻolālā ʻana o nā chips a Apple e hana i kahi mea hoʻohui a me ka manawa holo e hoʻopau i nā bottlenecks hana. ʻO kā lākou ʻuala huna e pili ana i nā ʻaoʻao he nui:

• Hoʻohui ʻia ʻo Kernel Hou: Hoʻohui ʻana i nā hana he nui i loko o ka kernel hoʻokahi i hoʻopaʻa ʻia e hōʻemi i ka neʻe ʻana o ka hoʻomanaʻo a hoʻonui i ka pono helu ma ka GPU a me Neural Engine.
• Mālama hoʻomanaʻo naʻauao: Ke hoʻohana nei i ka hoʻomanaʻo hoʻokahi o Apple Silicon i kona piha piha, e hōʻemi nui ana i ka overhead e pili mau ana me ka neʻe ʻana i ka ʻikepili ma waena o CPU a me GPU.
• Nā Paʻa Paʻa Paʻa: Hoʻopili i nā helu i nā kiko kikoʻī (CPU, GPU, NE) o kēlā me kēia chip M-series, e hōʻoia ana i ka hele ʻana o ka hana kūpono i ka ʻāpana ʻākau o ka chip i ka manawa kūpono.

He ʻike maʻalahi ka hopena no nā mea hoʻomohala. Hiki iā lākou ke lawe i nā hiʻohiʻona maʻamau a, me nā hoʻololi liʻiliʻi liʻiliʻi, holo iā lākou 2-5x wikiwiki ma mua o nā hoʻonā mua. ʻO kēia hoʻoikaika hana e hiki ai ke holo i nā hiʻohiʻona ʻoi aku ka nui a me ka ʻoi aku ka maʻalahi ma ka ʻāina, e wehe ana i nā mea hou no ka hoʻoili leo a me ka wikiō maoli, ka hoʻokumu ʻana i nā code paʻakikī, a me nā mea hou aʻe.

Hoʻohui ʻia ʻo RunAnywhere i kahi OS Pāʻoihana Modular

ʻO ka manaʻo ma hope o Mewayz, ʻo ia nā mea hana maikaʻi loa e hana pū me ka maʻalahi e hana i kahi ʻōnaehana hana ikaika a maʻalahi no kāu ʻoihana. ʻO RunAnywhere kahi "module" quintessential i kēia ʻike. E noʻonoʻo i kahi hui kūʻai maʻiʻo e hoʻohana ana iā Mewayz: hiki i kahi mea kākau ke hoʻohana i kahi kōkua AI, hoʻohana ʻia e RunAnywhere, e hana i kope kope me ka ʻole o ka lag. I ka manawa like, hiki i ka hui kūʻai ke hoʻohui i ka CRM e hoʻohana ana i ka AI ma ka hāmeʻa no ka nānā ʻana i nā transcript kelepona a hōʻike i nā hana hou i ka manawa maoli, nā mea āpau me ka ʻole o ka paʻi ʻana i kahi kikowaena waho.

"Ma ka hoʻoneʻe ʻana i ka inference AI mai ke ao a hiki i ka lihi, ʻaʻole mākou e hoʻomaikaʻi wale i ka wikiwiki; hiki iā mākou ke ʻae i kahi papa hou o nā noi pilikino, pane, a me nā kumu kūʻai.

E pili pono ana kēia hoʻokokoke kūloko me ka hoʻokō Mewayz i ka mana o ka ʻikepili a me ka pilikino o ka mea hoʻohana. Hiki i nā ʻoihana ke kūkulu i nā kahe hana naʻauao me ka ʻike ʻana e paʻa mau ana kā lākou ʻikepili waiwai ma kā lākou mau polokalamu ponoʻī, ʻoiai e pōmaikaʻi ana i ka mana o nā hiʻohiʻona AI holomua.

Ke Ala Imua no ka Hoʻomohala AI Kūloko

ʻO ka hoʻomaka ʻana o RunAnywhere he mea nui i ka democratization o AI. Ma ka hoʻolilo ʻana iā Apple Silicon i kahua papa mua no AI inference, ke hāʻawi nei lākou i kahi ākea ākea o nā mea hoʻomohala a me nā ʻoihana e kūkulu a kau i nā hiʻohiʻona naʻauao. I ka ulu ʻana o ka waihona o nā kumu hoʻohālike i kākoʻo ʻia a ʻoi aku ka holomua o ka hoʻoponopono ʻana, hiki iā mākou ke manaʻo e ʻike i ka pahū ʻana o nā noi hou i ʻoi aku ka wikiwiki, ʻoi aku ka pilikino, a me ke kumu kūʻai o ka hana.

No ka hui ʻo Mewayz, ʻo ia hoʻi nā mea hana āu e hoʻohana ai no ka holo ʻana i kāu ʻoihana e ʻoi aku ka naʻauao a me ka pane. ʻO ka hoʻohui ʻana o nā ʻenehana e like me RunAnywhere i loko o kā mākou modular OS e ʻae i nā hui e hana i nā kahe hana pono a me ka naʻauao, e hoʻokaʻawale i ke ala no ka hana ʻoi aku ka maikaʻi a me ka intuitive. ʻO ke au o ka frictionless, on-device AI ma ʻaneʻi.

Nīnau pinepine

Wele mai i ka wā e hiki mai ana o AI ma ka polokalamu

Ke piʻi nei ka heihei no ka hoʻoholo AI ʻoi aku ka wikiwiki a maikaʻi hoʻi, a ke neʻe nei ia mai ke ao a ma luna o kā mākou mau pākaukau—a i loko o ko mākou mau ʻūhā. No nā mea hoʻomohala a me nā ʻoihana e kūkulu ana i nā noi AI-powered, ʻo ke kumukūʻai kiʻekiʻe a me ka latency o nā hiʻohiʻona GPU e pili ana i ke ao he mau bottlenecks nui. E hoʻokomo iā RunAnywhere, kahi hoʻomaka hoʻomaka ʻana mai ka hui Y Combinator W26 e turbocharging AI inference ma kahi ʻāpana miliona miliona i loaʻa: Apple Silicon. He mea maʻalahi kā lākou ʻoihana akā ikaika: e wehe i ka mea hiki ʻole i hoʻohana ʻia o nā chips M-series ma Macs, e hoʻonui i ka hoʻomohala ʻana a me ka hoʻolaha ʻana o AI kūloko i ka wikiwiki a ʻoi aku ka maikaʻi.

No ke aha he mea hoʻololi pāʻani ʻo AI Inference on-Device

Ma ke ʻano maʻamau, pono ka hoʻouna ʻana i nā ʻikepili i nā kikowaena mamao ikaika i ke ao. ʻOiai maikaʻi, hele mai kēia ala me nā drawback inherent: latency ʻoiai e kali ana i kahi pane, hoʻomau nā kumukūʻai hana e like me ka hoʻohana ʻana, a me nā hopohopo pilikino ʻikepili. ʻO Apple Silicon Macs, me kā lākou hoʻomanaʻo hoʻomanaʻo hoʻohui a me nā Neural Engines ikaika, e hōʻike i kahi koho koʻikoʻi. Eia nō naʻe, ua paʻakikī nā mea hoʻomohala e hoʻohana piha i kēia hāmeʻa, hoʻonohonoho pinepine ʻia no ka hana suboptimal. Hoʻoponopono ʻo RunAnywhere i kēia ma o ka hāʻawi ʻana i kahi papa polokalamu maʻalahi e hoʻomaʻamaʻa i nā hiʻohiʻona e holo maoli ma ka lako lako o Apple, e hoʻonui ai i ka wikiwiki a me ka pono.

Pehea e wehe ai ʻo RunAnywhere i ka Peak Performance

ʻAʻole ʻo RunAnywhere kahi wīwī maʻalahi no nā frameworks e kū nei. Ua komo ka hui i ka hohonu i ka hoʻolālā ʻana o nā chips a Apple e hana i kahi mea hoʻohui a me ka manawa holo e hoʻopau i nā bottlenecks hana. ʻO kā lākou ʻuala huna e pili ana i nā ʻaoʻao he nui:

Hoʻohui ʻia ʻo RunAnywhere i kahi OS Pāʻoihana Modular

ʻO ka manaʻo ma hope o Mewayz, ʻo ia nā mea hana maikaʻi loa e hana pū me ka maʻalahi e hana i kahi ʻōnaehana hana ikaika a maʻalahi no kāu ʻoihana. ʻO RunAnywhere kahi "module" quintessential i kēia ʻike. E noʻonoʻo i kahi hui kūʻai maʻiʻo e hoʻohana ana iā Mewayz: hiki i kahi mea kākau ke hoʻohana i kahi kōkua AI, hoʻohana ʻia e RunAnywhere, e hana i kope kope me ka ʻole o ka lag. I ka manawa like, hiki i ka hui kūʻai ke hoʻohui i ka CRM e hoʻohana ana i ka AI ma ka hāmeʻa no ka nānā ʻana i nā transcript kelepona a hōʻike i nā hana hou i ka manawa maoli, nā mea āpau me ka ʻole o ka paʻi ʻana i kahi kikowaena waho.

ʻO ke ala i mua no ka hoʻomohala ʻana o AI kūloko

ʻO ka hoʻomaka ʻana o RunAnywhere he mea nui i ka democratization o AI. Ma ka hoʻolilo ʻana iā Apple Silicon i kahua papa mua no AI inference, ke hāʻawi nei lākou i kahi ākea ākea o nā mea hoʻomohala a me nā ʻoihana e kūkulu a kau i nā hiʻohiʻona naʻauao. I ka ulu ʻana o ka waihona o nā kumu hoʻohālike i kākoʻo ʻia a ʻoi aku ka holomua o ka hoʻoponopono ʻana, hiki iā mākou ke manaʻo e ʻike i ka pahū ʻana o nā noi hou i ʻoi aku ka wikiwiki, ʻoi aku ka pilikino, a me ke kumu kūʻai o ka hana.