Acceleratorul GroqCard de la BittWare, disponibil acum la Mouser, permite implementarea ușoară a modelelor Deep Learning

by gabi

Mouser Electronics, Inc. oferă, în prezent, acceleratorul GroqCard™de la BittWare. Acest accelerator ML cu factor de formă PCIe de lățime dublă, oferă căi de implementare ușoară pentru modelele de învățare profundă PyTorch, TensorFlow și ONNX. (n.red.: lățimea dublă indică faptul că ocupă două sloturi PCIe, ceea ce înseamnă că este un accelerator de mare putere). Acceleratorul GroqCard este o alegere versatilă pentru accelerarea inteligenței artificiale (AI), HPC și a sarcinilor de lucru de învățare automată (ML) pentru aplicații financiare, guvernamentale, AI generative, energetice și industriale.

Acceleratorul GroqCard de la BittWare dispune de nouă conexiuni RealScale™ de la cip la cip pentru a se asigura că pot fi implementate mai multe carduri, la fel de eficient ca unul singur. Acceleratorul oferă o scalabilitate aproape liniară, multi-server și multi-rack fără switch-uri externe. Codul de corectare a erorilor (ECC) protejează împotriva coruperii datelor pentru a îmbunătăți timpul de operare și fiabilitatea. Acceleratorul BittWare GroqCard dispune de procesorul GroqChip™ complet determinist, pentru o scalabilitate sporită. Totodată, GroqChip garantează performanțe previzibile, fără blocaje, cu latență redusă. Cipul autonom permite integrarea flexibilă în aplicații de calcul intensiv, în timp ce arhitectura sa simplificată și accentul pus pe software fac procesorul GroqChip mai ușor de programat decât un GPU.

Suita GroqWare™, un pachet software cuprinzător și versatil, este compusă din Compilatorul Groq, API-ul Groq și utilitare. Aceasta simplifică procesul de integrare și configurare și este compatibilă cu framework-urile AI și ML de referință din industrie. Lanțul de instrumente GroqFlow™, inclus în suita GroqWare, permite ca o singură linie de cod Pytorch sau TensorFlow să importe și să transforme modelele existente. Acceleratorul BittWare GroqCard oferă până la 750 TOPs și 188 TFLOPs la o frecvență de 900 MHz pentru operații INT8 și FP16. Acceleratorul GroqCard dispune de 230MB de memorie SRAM per cip și o lățime de bandă a memoriei on-die (pastila de siliciu) de până la 80TB/s pentru a permite accesarea și procesarea datelor la viteză mare.

Pentru a afla mai multe despre acceleratorul GroqCard™ de la BittWare, vizitați https://www.mouser.com/new/bittware/bittware-groqcard-accelerator/.

Mouser Electronics

S-ar putea să vă placă și

Adaugă un comentariu