Whakarewa HN: RunAnywhere (YC W26) – He Tere AI Inference i runga i te Apple Silicon

Nau mai ki te heke mai o runga-Pūrere AI

Kei te wera ake te whakataetae mo te tere ake, te pai ake o te whakaaro AI, kei te neke atu i te kapua ki runga i o tatou teepu—me o tatou uma. Mo nga kaiwhakawhanake me nga pakihi e hanga ana i nga tono a-AI, ko te utu nui me te roanga o nga tauira GPU-a-kapua he tino pounamu. Whakauruhia RunAnywhere, he whakaoho whenua mai i te roopu Y Combinator W26 kei te turbocharging AI inference i runga i tetahi taputapu miriona kua riro ke: Apple Silicon. He maamaa engari he kaha ta raatau kaupapa: ki te iriti i te katoa, kaore ano kia whakamahia nga maramara M-raupapa i roto i nga Macs, kia tere ake ai te whakawhanaketanga AI o te rohe me te whakatakotoranga me te whai hua ake.

He tauira tino pai tenei mahinga o te ahua o te auahatanga e toa ana tatou i roto i te puunaha rauwiringa kaiao Mewayz. E whakapono ana matou ko te heke mai o nga pakihi kei roto i nga taputapu rerekee, honohono e whakamana ana i nga roopu ki te hanga rerengamahi kaha me te kore e kati ki te kaihoko kotahi. Ko te hangarau a RunAnywhere e hono tika ana ki tenei tirohanga, e tuku ana i te paparanga turanga e taea ai te whakakaha i te reanga hou o nga tono AI i runga i te taputapu i roto i te OS pakihi.

He aha te Inference AI I runga i te Pūrere he Kaihuri-Kimiri

I nga wa o mua, ko te whakahaere i nga tauira AI matatini me tuku raraunga ki nga tūmau mamao kaha i te kapua. Ahakoa e whai hua ana, ka tae mai tenei huarahi me nga ngoikoretanga: te roa i te wa e tatari ana mo te whakautu, te haere tonu o nga utu whakahaere e whakataurite ana ki te whakamahinga, me nga awangawanga mo te taha huna raraunga. Ko nga Apple Silicon Macs, me o raatau hoahoanga mahara whakakotahi me nga miihini Neural kaha, e whakaatu ana i tetahi momo rereke. Heoi, kua whakapau kaha nga kaiwhakawhanake ki te whakamahi i tenei taputapu, he maha nga wa e whakatau ana mo te mahi tino pai. Ka whakatauhia e RunAnywhere tenei ma te whakarato i tetahi paparanga rorohiko maamaa e arotau ana i nga tauira kia rere maorii runga i nga taputapu a Apple, e whakanui ana i te tere me te pai.

Mo nga pakihi e whakamahi ana i te papaaho pera i a Mewayz ki te whakauru i a raatau whakahaere kaupapa, CRM, me nga taputapu korero, ko te tikanga ko nga whakarāpopototanga a AI-powered, te tātari raraunga, me nga tirohanga a nga kaihoko ka taea te puta tonu me te haumaru i runga i te miihini a te kaimahi. Ka whakaitihia te whakawhirinaki ki nga API o waho me te pupuri i nga raraunga tairongo i roto i te mana o te kamupene.

Me pehea te RunAnywhere e Wewete ana i te Mahinga Whakanuia

Ko RunAnywhere ehara i te mea he takai ngawari noa mo nga anga o mua. Kua ruku hohonu te roopu ki roto i te hoahoanga o nga maramara a Apple ki te hanga i te whakahiato me te wa mahi e whakakore ana i nga pounamu mahi. Ko ta ratou ranu ngaro he huarahi maha:

• Whakakotahitanga Kernel Arā Atu Anō: Te whakakotahi i ngā mahi maha ki te kākano kotahi, kua arotautia hei whakaiti i te neke mahara me te whakanui i te pai o te rorohiko ki te GPU me te Neural Engine.
• Whakahaere Mahara Mahara: Te whakamahi i te mahara whakakotahi o Apple Silicon ki tona tino, ka tino whakaiti i te utu nui e hono ana ki te neke raraunga i waenga i te PTM me te GPU.
• Whakaarotautanga Tauwhāiti Pūmārō: Te whakahāngai i ngā tātaitanga ki ngā matua motuhake (CPU, GPU, NE) o ia maramara M-rangatū, kia tika te haere o te mahi ki te wahanga matau o te maramara i te wa tika.

Ko te hua he wheako pai mo nga kaihanga. Ka taea e ratou te tango i nga tauira paerewa, a, me te iti o nga huringa waehere, ka whakahaerehia kia 2-5x tere atu i nga otinga o mua. Ma tenei whakanui mahi ka taea te whakahaere i nga tauira nui ake, maamaa ake i te rohe, ka whakatuwhera i nga huarahi hou mo te tukatuka oro me te ataata oro-waahi, te hanga waehere matatini, me etahi atu.

Ko te whakauru i te RunAnywhere ki roto i te OS Pakihi Modular

Ko te whakaaro kei muri i a Mewayz me mahi tahi nga taputapu pai-a-ahua ki te hanga i tetahi punaha whakahaere kaha me te ngawari mo to pakihi. Ko RunAnywhere he "module" tino nui i roto i tenei tirohanga. Whakaarohia he roopu hokohoko ihirangi e whakamahi ana i a Mewayz: ka taea e te kaituhi te whakamahi i tetahi kaiawhina AI, i whakakahangia e RunAnywhere i te rohe, ki te whakaputa i te kape tauira me te kore e takamuri. I te wa ano, ka taea e te roopu hoko te whakauru CRM e whakamahi ana i te AI-i runga i te taputapu ki te tātari i nga tuhinga waea me te whakaatu i nga mahi ka whai ake i roto i te waa tuuturu, katoa kaore ano kia pa ki tetahi tūmau o waho.

"Na te neke i te tohu AI mai i te kapua ki te taha, ehara i te mea kei te whakapai noa tatou i te tere; kei te whakaaheihia e matou he karaehe hou mo nga tono motuhake, whakautu, me te utu-utu. He nekehanga taketake tenei mo nga kaihanga me nga pakihi."

Ko tenei huarahi tuatahi-a-rohe e hono pai ana ki te pono o Mewayz ki te mana motuhake o nga raraunga me te noho muna a nga kaiwhakamahi. Ka taea e nga pakihi te hanga rerengamahi mohio ma te mohio kei te noho haumaru o raatau raraunga rangatira ki o raatau ake taputapu, me te whai hua tonu mai i te kaha o nga tauira AI matatau.

Te huarahi kei mua mo te Whanaketanga AI-a-rohe

Ko te whakarewanga o RunAnywhere he tohu nui i roto i te manapori o AI. Na roto i te hanga a Apple Silicon hei turanga akomanga tuatahi mo te whakaaro AI, kei te whakamanahia e ratou te whānuitanga o nga kaiwhakawhanake me nga kamupene ki te hanga me te tuku i nga ahuatanga mohio. I te tipu haere o te whare pukapuka o nga tauira e tautokohia ana, ka piki haere nga arotautanga, ka kite tatou i te pahūtanga o nga tono auaha he tere ake, he noho motuhake, he iti ake te utu mo te whakahaere.

Mo te hapori Mewayz, ko te tikanga ko nga taputapu e whakamahia ana e koe ki te whakahaere i to pakihi ka tata ake te mohio me te aro ake. Ma te whakaurunga o nga hangarau penei i te RunAnywhere ki roto i ta maatau OS modular ka taea e nga roopu te mahi i nga rerenga mahi tino mohio me te mohio, e para ana i te huarahi mo te mahi pai ake me te mohio a meake nei. Kei konei te wa o te wakukore, i runga i te taputapu AI.