Launch HN: RunAnywhere (YC W26) – Okuteebereza kwa AI okw’amangu ku Apple Silicon

Mwaniriziddwa mu biseera by'omu maaso ebya On-Device AI

Empaka z’okuteebereza AI ez’amangu, ezikola obulungi zigenda zibuguma, era zigenda okuva ku kire ne zigenda ku mmeeza zaffe —ne ziyingira mu bifuba byaffe. Ku bakola ne bizinensi ezizimba enkola ezikozesa AI, omuwendo omunene n’okusirika kw’ebifaananyi bya GPU ebisinziira ku kire bizibu nnyo. Yingira RunAnywhere, entandikwa egenda okuva mu kibinja kya Y Combinator W26 erikola turbocharging AI inference ku kitundu kya hardware obukadde n’obukadde bwe balina edda: Apple Silicon. Omulimu gwabwe mwangu naye gwa maanyi: okusumulula obusobozi obujjuvu, obutakozesebwa bwa chips za M-series mu Macs, okufuula enkulaakulana ya AI ey’omu kitundu n’okugiteeka mu nkola okwangu ennyo era nga kukendeeza ku nsimbi.

Okumenyawo kuno kyakulabirako kituukiridde eky’ekika ky’obuyiiya bwe tuwanirira munda mu nkola y’obutonde bw’ensi eya Mewayz. Tukkiriza nti ebiseera bya bizinensi eby’omu maaso biri mu bikozesebwa ebya modulo, ebikwatagana ebiwa ttiimu amaanyi okuzimba enkola z’emirimu ez’amaanyi awatali kusibirwa mu mutunzi omu. Tekinologiya wa RunAnywhere akwatagana bulungi n’okwolesebwa kuno, ng’awa layeri ey’omusingi eyinza amaanyi omulembe omupya ogw’enkola za AI eziri ku kyuma munda mu OS ya bizinensi eya modular.

Lwaki On-Device AI Inference ye Game-Changer

Mu nnono, okuddukanya ebikozesebwa bya AI ebizibu kyali kyetaagisa okusindika data ku seeva ez’amaanyi ez’ewala mu kire. Wadde nga nnungi, enkola eno ejja n’ebizibu ebizaaliranwa: okusirika nga olindirira okuddibwamu, ssente z’emirimu ezigenda mu maaso ezikula n’okukozesa, n’ebiyinza okweraliikirira eby’ekyama bya data. Apple Silicon Macs, n’ensengeka yazo ey’okujjukira okugatta ne Neural Engines ez’amaanyi, ziraga eky’okuddako ekisikiriza. Naye, abakola bafubye okukozesa mu bujjuvu hardware eno, emirundi mingi ne batuuka ku mutindo ogutali mulungi. RunAnywhere kino egonjoola nga egaba layeri ya pulogulaamu ey’omulembe elongoosa ebikozesebwa okutambula natively ku hardware ya Apple, okutumbula sipiidi n’obulungi.

Eri bizinensi ezikozesa omukutu nga Mewayz okugatta enzirukanya ya pulojekiti zaabwe, CRM, n’ebikozesebwa mu mpuliziganya, kino kitegeeza nti ebifunze ebikozesebwa AI, okwekenneenya data, n’okutegeera kwa bakasitoma bisobola okubaawo amangu ddala era mu ngeri ey’obukuumi ku kyuma ky’omukozi eky’omu kitundu. Kikendeeza okwesigama ku API ez'ebweru era kikuuma data enzibu mu buyinza bwa kampuni.

Engeri RunAnywhere gy'esumulula Omulimu gw'oku ntikko

RunAnywhere si kizinga kyangu kyokka ku nkola eziriwo. Ttiimu eno efunye mu buziba mu nsengeka ya chips za Apple okukola compiler ne runtime emalawo obuzibu mu kukola. Ssoosi yaabwe ey’ekyama erimu enkola ey’enjawulo:

• Advanced Kernel Fusion: Okugatta emirimu mingi mu kernel emu, erongooseddwa okukendeeza ku ntambula y’ekijjukizo n’okutumbula obulungi bw’okubalirira ku GPU ne Neural Engine.
• Okuddukanya jjukira mu ngeri ey’amagezi: Okukozesa ekijjukizo ekigatta ekya Apple Silicon mu bujjuvu, okukendeeza ennyo ku nsimbi ezisaasaanyizibwa ezitera okukwatagana n’okutambuza data wakati wa CPU ne GPU.
• Hardware-Specific Optimizations: Okutuukanya okubalirira okusinziira ku misingi egy’enjawulo (CPU, GPU, NE) egya buli chip ya M-series, okukakasa nti omulimu omutuufu gugenda mu kitundu ekituufu ekya chip mu kiseera ekituufu.

Ekivaamu kuba bumanyirivu obutaliimu buzibu eri abakola. Zisobola okutwala models eza standard era, nga zirina enkyukakyuka entono mu code, ziziddukanya 2-5x faster okusinga ku solutions ezaaliwo. Okulinnyisa omutindo kuno kusobozesa okuddukanya ebika ebinene, eby’omulembe mu kitundu, okuggulawo ebipya ebisoboka okukola ku maloboozi ne vidiyo mu kiseera ekituufu, okukola koodi enzibu, n’ebirala.

Okugatta RunAnywhere mu Modular Business OS

Endowooza eri emabega wa Mewayz eri nti ebikozesebwa ebisinga obulungi birina okukolera awamu awatali buzibu okukola enkola ey’amaanyi era ekyukakyuka mu bizinensi yo. RunAnywhere ye "module" enkulu mu kwolesebwa kuno. Teebereza ttiimu y’okutunda ebirimu ng’ekozesa Mewayz: omuwandiisi ayinza okukozesa omuyambi wa AI, akozesebwa mu kitundu okuva mu RunAnywhere, okukola kkopi y’ebbago awatali kuddirira kwonna. Mu kiseera kye kimu, ttiimu y’abatunzi eyinza okuba n’okugatta kwa CRM ekozesa AI ku kyuma okwekenneenya ebiwandiiko by’amasimu n’okuteesa ku mitendera egiddako mu kiseera ekituufu, byonna nga tewali kukuba seva ya bweru.