Amazon izlaidis TorchNeuron, lai AI lietotnes vieglāk pārceltu no Nvidia uz Trainium mikroshēmām
Amazona mākoņpakalpojumu nodaļa AWS pirmdien izlaida rīku TorchNeuron, kas ļauj PyTorch lietotnes darbināt uz uzņēmuma Trainium mikroshēmām, nomainot vienu konfigurācijas rindu. Uzņēmums mērķē uz Nvidia programmatūras priekšrocību mākslīgā intelekta jomā.
Amazon mākoņpakalpojumu nodaļa Amazon Web Services (AWS) pirmdien, 19. oktobrī, izlaida izstrādātāju rīku TorchNeuron. Tas jaunuzņēmumiem, kas veido mākslīgā intelekta (MI) lietotnes, ļauj tās ērti pārcelt uz Amazon paša MI mikroshēmu Trainium. Tādējādi uzņēmums tiecas mazināt programmatūras pārsvaru, kas Nvidia ir palīdzējis kļūt par noklusējuma izvēli MI aparatūras tirgū.
Kā rīks darbojas
TorchNeuron strādā ar PyTorch – bezmaksas atvērtā koda rīkkopu, ko izstrādātāji izmanto MI modeļu veidošanai, apmācībai un darbināšanai. Pēc Amazon teiktā, lietotnei, kas uzrakstīta ar PyTorch, pietiek nomainīt vienu konfigurācijas rindu, lai tā darbotos uz Trainium; koda pārrakstīšana nav vajadzīga. Uzņēmums norāda, ka ar PyTorch uzrakstīti aptuveni 85% MI lietotņu. To sākotnēji izstrādāja Facebook, bet kopš 2022. gada tas ir Linux Foundation, atvērtā koda projektu uzturētājas organizācijas, paspārnē.
Nvidia gadiem ir nodrošinājusi, ka tās CUDA programmatūra nevainojami atbalsta PyTorch, tāpēc tās aparatūra rīkkopā ir iesakņojusies gandrīz pēc noklusējuma. Arī AMD grafikas procesorus vai Apple mikroshēmas PyTorch lietotāji var izmantot ar vienkāršu konfigurācijas maiņu.
AWS argumenti
Amazon uzsver, ka pārcelšanās uz Trainium dod piekļuvi visam AWS mākonim. Uzņēmums apgalvo, ka tā ir labāka izvēle nekā „neomākoņi”, no kuriem daudzi, piemēram, Coreweave, Nebius un Firmus, ir saistīti ar Nvidia. Colins Breiss (Colin Brace), AWS Annapurna Labs, nodaļas, kas izstrādā Amazon mikroshēmas, tehnoloģiju programmatūras viceprezidents, norādīja, ka tā pati mikroshēma veic gan apmācību, gan secināšanu, kas uzlabojot izmaksu efektivitāti. Kā piemēru viņš minēja balss MI uzņēmumu Deepgram, kas pēc pārejas apstrādājot par 70% vairāk audio par vienu dolāru.
Ietekme uz PyTorch
Amazon plāno arī papildināt galveno PyTorch projektu ar izmaiņām, kas noņem kodu, kurš sasaista rīkkopu ar konkrētām mikroshēmām. Mērķis ir padarīt PyTorch neatkarīgāku no aparatūras. Vai tas izstrādātājiem dos plašāku izvēli un lētākus risinājumus, kā solīts, vai tikai papildu konfigurēšanas grūtības, vēl jāredz.
