Microsoft ima manjak internog AI hardvera i prisiljen je nametnuti kvote
Microsoft se sprema najaviti paket alata Office 365 koji koristi GPT-4 softver za umjetnu inteligenciju (AI), ali tvrtka se sada suočava s nedostatkom hardvera internih AI poslužitelja raspršenih po podatkovnim centrima koji rade s klasterima GPU čipova za obradu velike količine podataka.
To je navodno prisililo Microsoft da ograniči upotrebu drugih internih timova za razvoj alata za umjetnu inteligenciju kako bi osigurao dovoljno resursa za širenje dometa Bing chatbota temeljenog na GPT-4 i nadolazećem izdanju novog Office čije značajke uključuju sažetke dokumenata umjetne inteligencije, personalizirane prijedloge za pisanje i prijedloge za uređivanje. Kada timovi žele koristiti GPU-e za razvoj novih alata za umjetnu inteligenciju ili testiranje postojećeg softvera za umjetnu inteligenciju, moraju podnijeti poseban zahtjev korporativnom potpredsjedniku i dobiti odobrenje prije nego što mogu koristiti hardver, govore upućeni u to pitanje.
Ovo ograničenje moglo bi biti na snazi sve dok ne bude jasno koliko je onih spremno koristiti svakodnevno ove uslugu. Microsoft kaže da se na sve načine pokušavaju dodati više hardvera potrebnih za AI računalnu snagu, ali svjesni su da ako to ne učini dovoljno brzo, bit će prisiljeni ograničiti Azure OpenAI usluge novim korisnicima.
PROČITAJTE JOŠ
ChatGPT stiže u Microsoftov Azure: utjecaj se širi
Microsoft najavio Skype 8.93 ažuriranu verziju za sve platforme
Microsoft Windows 12 ipak u razvoju?
Nedostatak hardvera također ima utjecaja na Microsoftove klijente: najmanje jedan korisnik prijavio je dugo čekanje na korištenje licenciranog softvera OpenAI koji je dostupan putem Microsoftove usluge oblaka Azure jer svi modeli strojnog učenja moraju raditi na Azure poslužiteljima.
To je vrlo nezavidna situacija i prednost koju su stekli nad Googleom u komercijalizaciji novog AI alata, mogli bi izgubiti ako se nedostatak hardvera ne riješi. U studenom je Microsoft najavio da će dodati desetke tisuća novih Nvidia GPU-a kako bi proširili svoju procesorsku snagu umjetne inteligencije, ali nije bilo jasno dokle će kupnja ići. Dvije tvrtke također su zajednički najavile ovih dana da će korisnici Azure uskoro moći početi koristiti novi Nvidijin H100 GPU, koji tek treba biti široko pušten u prodaju.
