web analytics

Microsoft introduce un procesor Arm cu 128 de nuclee pentru cloud și accelerator AI personalizat

Parteneri

În timpul conferinței Ignite, Microsoft a prezentat un duo de siliciu conceput special pentru a accelera inteligența artificială și a excela în sarcinile de lucru în cloud. Primul dintre cele două este Microsoft Azure Cobalt 100 CPU, un procesor Microsoft Azure Cobalt 100, un design cu 128 de nuclee care dispune de un set de instrucțiuni Armv9 pe 64 de biți, implementat într-un design nativ pentru cloud care urmează să devină parte a ofertelor Microsoft. Deși nu există prea multe detalii cu privire la configurație, compania susține că obiectivul de performanță este de până la 40% în comparație cu actuala generație de servere Arm care rulează în cloud Azure. SoC-ul a utilizat platforma Neoverse CSS de la Arm personalizată pentru Microsoft, cu nuclee Arm Neoverse N2, probabil Arm Neoverse.

Următorul și cel mai fierbinte subiect în domeniul serverelor este accelerarea inteligenței artificiale, necesară pentru a rula modelele lingvistice de mari dimensiuni din prezent. Microsoft găzduiește OpenAI’s ChatGPT, Microsoft’s Copilot și multe alte servicii de inteligență artificială. Pentru a le ajuta să ruleze cât mai rapid, proiectul Athena al Microsoft are acum numele de Maia 100 AI accelerator, care este fabricat pe procesul de 5 nm al TSMC. Acesta dispune de 105 miliarde de tranzistori și suportă diverse formate de date MX, chiar și cele mai mici de 8 biți, pentru o performanță maximă. Testat momentan pe GPT 3.5 Turbo, nu am văzut încă cifrele de performanță și comparații cu hardware-ul concurent de la NVIDIA, precum H100/H200 și AMD, cu MI300X. Maia 100 are o lățime de bandă agregată de 4,8 Terabiți per accelerator, care utilizează un protocol de rețea personalizat bazat pe Ethernet pentru scalare. Aceste cipuri sunt așteptate să apară în centrele de date Microsoft la începutul anului viitor și sperăm să obținem în curând câteva cifre de performanță.

%d blogeri au apreciat: