Inferență AI optimizată pentru gama de produse cu consum redus de putere

Primele module SMARC echipate cu procesoare Intel Core i sunt disponibile acum

by gabi

Informații mai precise și mai rapide: Modulele SMARC bazate pe Intel Core i oferă o creștere de 9,83 ori mai mare în ceea ce privește performanța în clasificarea imaginilor. (Sursa imaginii: congatec)

Pentru prima dată, procesoarele Intel Core i cu până la 8 nuclee de eficiență (E-cores) sunt acum disponibile pe modulele SMARC COM (Computer-on-Module). Acest lucru permite chiar și celor mai mici sisteme fără ventilator cu consum redus de putere utilizate în intervale extinse de temperatură să beneficieze de capabilități hardware și software pentru a rula rapid și eficient algoritmi AI de inferență extrem de puternici, precum și de opțiuni avansate de virtualizare, îmbunătățind securitatea cibernetică, printre alte avantaje.

Intel a sporit încă o dată performanța procesoarelor sale cu consum redus de putere (nume de cod Amston Lake), oferind o creștere a performanței cu 49% pentru aplicații cu un singur fir de execuție (single-threaded) și o creștere cu 61% pentru aplicațiile multi-threaded. Această creștere a performanțelor este conformă cu așteptările, având în vedere creșterea frecvenței de ceas și a numărului de nuclee, permițând progrese importante în limitele aceluiași buget energetic. Cu toate acestea, progresul real pentru computerele embedded și edge este creșterea performanței în ceea ce privește clasificarea imaginilor, de până la 9,83 ori mai mare, în cazul noilor procesoare Intel Core și Intel Atom [1]. Anterior, performanțele AI atât de puternice se limitau la sisteme cu un TDP (thermal design power) semnificativ mai mare. Standardizarea microarhitecturii de bază (nume de cod Gracemont) cu nuclee eficiente (E-cores) pentru toate modelele de procesoare Intel client – de la cel mai mic Intel Atom la cel mai puternic Intel Core i9 – aduce inovații x86, cum ar fi instrucțiunile pentru rețele neurale vectoriale (VNNI – Vector Neural Network Instructions) pentru inteligență artificială în segmentul cu consum redus de putere de până la 15 wați. Ca urmare, modelele cu factor de formă mic bazate pe module SMARC pătrund acum în teritorii de performanță, care, până acum, erau destinate doar modelelor mai mari, cum ar fi COM Express sau COM-HPC.

Dezvoltarea unor sisteme mai inteligente

Logica de inferență AI de înaltă performanță poate fi utilizată acum în multe aplicații industriale inovatoare, eficiente din punct de vedere energetic și robuste, unde soluțiile bazate pe AI sunt esențiale. În producția industrială, detectarea și recunoașterea obiectelor joacă un rol din ce în ce mai important în operațiunile de preluare și plasare și în sarcinile de testare și măsurare. În ultimul caz, soluțiile bazate pe viziune înlocuiesc procesele mecanice complexe, contribuind la reducerea costurilor de asigurare a calității. Roboții colaborativi, vehiculele cu ghidare automată (AGV) și roboții de întreținere necesită, de asemenea, capabilități avansate de procesare a imaginilor pentru a percepe mediul înconjurător complet, precis și în timp real pentru a garanta siguranța operațională, precum și o planificare eficientă a rutelor și navigației.

Modulele SMARC bazate pe x86 de la congatec dispun de un hipervizor integrat în firmware (Hypervisor-on-Module). (Sursa imaginii: congatec)

O segmentare avansată a imaginilor îmbunătățește, de asemenea, detectarea automată a anomaliilor în tehnologia medicală, cum ar fi dispozitivele mobile cu ultrasunete, accelerând diagnosticarea. În sistemele de supraveghere și securitate ale orașelor inteligente, clasificarea îmbunătățită a imaginilor permite nu numai detectarea mai rapidă a obiectelor în mișcare, ci și clasificarea mai nuanțată a obiectelor pe baza mai multor criterii. De această capabilitate beneficiază și aplicațiile pentru punctele de vânzare (POS), cum ar fi terminalele de plată complet automatizate bazate pe viziune, care înlocuiesc sistemele tradiționale de citire a codurilor de bare și reduc costurile cu forța de muncă. Acestea și nenumărate alte aplicații, inclusiv sistemele încorporate în vehicule utilizate în sectoarele construcțiilor, agriculturii și silviculturii, precum și interfețele om-mașină (HMI) clasice, beneficiază în mare măsură de creșterea performanței AI oferită, în prezent, de modulele SMARC de dimensiunea unei cărți de credit.

Ecosistem x86 cuprinzător pentru logica de inferență

Modulele SMARC cu plăci purtătoare (carrier) de 3,5 inchi și soluții de răcire adecvate sunt gata pentru utilizare imediată și pregătite pentru producția de serie. (Sursa imaginii: congatec)

Creșterea performanței hardware poate fi implementată rapid în aplicații reale. În domeniile care necesită performanțe superioare, dezvoltatorii utilizează deja soluțiile de inferență AI de la Intel. Portarea unei astfel de logici de inferență la o amprentă extrem de compactă, cu un consum redus de putere și un domeniu de temperatură industrial (-40°C la +85°C) necesită, în prezent, mult mai puțin efort de dezvoltare software. Acest fapt se datorează unității CPU cu până la 8 nuclee de eficiență (E-cores) și GPU-ului Intel Gen 12 UHD cu până la 32 de unități de execuție, care sunt identice cu cele ale procesoarelor de înaltă performanță bazate pe microarhitectura Gracemont, care suportă, de asemenea, procesarea inferenței de învățare profundă INT8. Alte tehnologii AI, cum ar fi seturile de instrucțiuni optimizate Intel AVX2 (Advanced Vector Extensions 2) și Intel VNNI, pot fi, la rândul lor, utilizate uniform pe toate platformele. În plus, este disponibil un ecosistem complet, de la kernel-uri pentru dezvoltatorii de biblioteci și biblioteci pentru specialiștii din domeniul datelor, până la seturi de instrumente precum OpenVino pentru dezvoltatorii de aplicații. Astfel, proiectanții implicați în crearea de aplicații cu consum redus de putere își pot atinge obiectivele mai rapid, valorificând microarhitectura armonizată a procesorului de bază. Însă logica de inferență AI de mare viteză nu este singurul avantaj al noilor module SMARC.

8 nuclee extind opțiunile de virtualizare

Noile module SMARC bazate pe procesorul Intel Core i3 și pe seria de procesoare Intel Atom x7000RE (nume de cod Amston Lake) oferă până la 8 nuclee, dublând numărul de nuclee ale procesorului din generația anterioară, menținând în același timp consumul de energie. Această creștere a performanței poate fi integrată în modelele de sisteme existente fără a revizui aspectul de răcire, accelerând atât integrarea acestei noi generații de performanță, cât și introducerea AI în aplicații industriale 24/7 care necesită un design deosebit de robust. Cele 8 nuclee oferă, de asemenea, opțiuni atractive pentru tehnologia de virtualizare.

Avantajele virtualizării sunt numeroase:

  • Oferă beneficii semnificative de securitate cibernetică (aliniindu-se la Legea privind reziliența cibernetică) prin reducerea riscului de breșe de securitate între sisteme. Gateway-urile pentru comunicații, controlerele și interfețele de utilizator pot opera în instanțe separate și independente, sporind reziliența la amenințările cibernetice.
  • Prin consolidarea mai multor sisteme pe un hardware unic, companiile pot economisi costuri hardware și pot crește eficiența.
  • Complexitatea codului de bază este redusă la minimum, în timp ce scalabilitatea și portabilitatea aplicațiilor sunt îmbunătățite prin divizarea granulară a sarcinilor individuale în produse software separate și prin operarea acestora în mașini virtuale independente, în loc de un software monolitic.

În domeniul Internetului Industrial al Lucrurilor (IIoT), virtualizarea permite, de asemenea, crearea de mașini virtuale dedicate pentru întreținere, crescând disponibilitatea sistemului și simplificând actualizările. În plus, dezvoltatorii pot lucra într-un mediu controlat și reproductibil, accelerând dezvoltarea de software și îmbunătățind calitatea produsului final.

Module SMARC cu tehnologie “Hypervisor-on-Module”

congatec este singurul furnizor care încorporează un hipervizor direct în firmware-ul modulelor sale SMARC. Această caracteristică pregătită pentru virtualizare simplifică foarte mult implementarea mașinilor virtuale pentru dezvoltatori. De asemenea, permite proiectarea de soluții mai fiabile, mai rentabile și mai durabile, reducând astfel costul total de proprietate (TCO). Un beneficiu suplimentar pentru aplicațiile industriale este capabilitatea de operare în timp real a hipervizorului integrat.

Utilizarea tehnologiei “Hypervisor-on-Module” nu este limitată la sistemele care necesită funcționalitate în timp real sau la cele care integrează Intel Time Coordinated Computing (Intel TCC) și Time-Sensitive Networking (TSN). Dezvoltatorii pot utiliza acest hipervizor pentru a gestiona toate funcțiile necesare, inclusiv cele care nu solicită performanțe în timp real. Comparativ cu containerizarea, această abordare atinge un nivel mult mai ridicat de securitate cibernetică, deoarece toate mașinile virtuale operează ca insule de securitate complet separate, fără a partaja un sistem de operare gazdă.

congatec oferă, de asemenea, o versiune aReady.COM a modulului SMARC conga-SA8. Clienții pot achiziționa module configurate individual, de exemplu, cu sistemul de operare ctrlX de la Bosch Rexroth și mașini virtuale pentru sarcini precum controlul în timp real, HMI, AI, schimbul de date IIoT, firewall și funcții de întreținere/management, toate pregătite pentru implementare imediată. Bineînțeles, noile module SMARC suportă, totodată, mai multe variante de Windows.

Acest ecosistem cuprinzător facilitează în mare măsură dezvoltarea de soluții noi, eficiente din punct de vedere energetic, pentru sistemele de calcul embedded și edge care utilizează logica de inferență AI și tehnologiile de virtualizare. Cu numeroase funcții esențiale deja furnizate din fabrică, dezvoltatorii se pot concentra pe crearea aspectelor specifice ale soluției lor.

Caracteristicile hardware în detaliu

Modulele SMARC conga-SA8 de la congatec sunt disponibile cu procesoare Intel Core i3-N305 și trei procesoare Intel Atom diferite, cu până la 8 nuclee, până la 16 GB 4800MT/s LPDDR5 de memorie și până la 256 GB eMMC 5.1 de memorie flash. Grafica integrată Intel UHD Gen 12 cu până la 32 de unități de execuție suportă până la trei display-uri 4k independente. Interfețele cu lățime de bandă mare includ Ethernet 2,5 Gbps, USB 3.2 Gen 2, PCIe Gen 3, SATA Gen 3, împreună cu diverse I/O embedded, precum i2C, SPI, UART și GPIOs. Sistemele de operare acceptate includ Windows 11 IoT Enterprise, Windows 10 IoT Enterprise 2021 LTSC și LTS Linux.

Wireless în timp real cu TSN prin Wi-Fi 6E

Conga-SA8 este unul dintre primele module SMARC care suportă Wi-Fi 6E, inclusiv pentru intervale extinse de temperatură. Comparativ cu produsele Wi-Fi 5, acesta oferă o rată de date aproape triplă și conexiuni mai stabile în medii dense sau supraîncărcate. De asemenea, este pregătit pentru viitorul standard TSN prin Wi-Fi, permițând conexiuni wireless deterministe cu debit definit. Acest lucru oferă o alternativă rentabilă la rețelele 5G private sau la cablurile Ethernet noi. Caracteristicile industriale suplimentare ale modulului SMARC conga-SA8 includ ECC in-band (un mecanism de corecție a erorilor care ajută la protejarea datelor prin detectarea și corectarea erorilor. Aceasta este esențială în aplicațiile industriale unde integritatea datelor este critică) pentru o securitate sporită a datelor și memorie DRAM (Dynamic Random Access Memory) lipită direct pe placă pentru o reziliență sporită în medii dificile.

Referință
[1] Comparație cu procesoarele Intel Atom din seria de produse x6000RE. Sursă: https://www.intel.com/content/www/us/en/products/details/embedded-processors/atom/atomx7000re.html

Autor:
Florian Drittenthaler
,
Product Line Manager, congatec


S-ar putea să vă placă și

Adaugă un comentariu