Microprocesoare midrange pentru Viziune AI în aplicații Edge

Microprocesoare midrange pentru Viziune AI în aplicații Edge

Aplicațiile Edge AI utilizează algoritmi de viziune computerizată pentru a detecta în timp real persoane, obiecte sau anomalii, cum ar fi defectele. Procesarea imaginilor și a videoclipurilor la marginea rețelei necesită, de obicei, un microprocesor pentru Viziune AI (MPU), capabil să interacționeze cu camerele, să ruleze modele AI și să includă, în multe cazuri, un accelerator AI dedicat.

Figura 1: Procesorul RZ/V2N de la Renesas oferă proiectanților noi opțiuni pentru integrarea Viziunii AI în aplicațiile de ultimă generație. (Sursa imaginii: Renesas Electronics)

Integrarea capabilităților de Viziune AI într-un singur dispozitiv reduce costurile și spațiul necesar pentru utilizarea componentelor separate, ceea ce face ca microprocesoarele moderne pentru Viziune AI să fie potrivite pentru aplicații embedded compacte.

Procesorul RZ/V2N pentru aplicații moderne de Viziune AI

Modelul RZ/V2N (Figura 1) de la Renesas Electronics este un microprocesor pentru Viziune AI, caracterizat prin consum redus de energie, performanță ridicată de inferență și o arhitectură puternică ce include patru nuclee Arm® Cortex®-A55 la 1,8 GHz, un nucleu Arm Cortex-M33 la 200 MHz și două intrări pentru camere prin interfață MIPI.

Acest microprocesor reprezintă o soluție rentabilă pentru aplicații moderne care necesită capabilități AI de nivel mediu până la ridicat, la un cost accesibil. Face parte din seria RZ/V, proiectată pentru a oferi scalabilitate pe o gamă largă de aplicații – de la birouri inteligente până la drone (Figura 2).

Cerințele unui microprocesor pentru Viziune AI

Figura 2: Poziționat ca o soluție midrange în seria RZ/V, RZ/V2N permite aplicații precum roboți mobili pentru uz casnic și sisteme de monitorizare a șoferilor. (Sursa imaginii: Renesas Electronics)

Aplicațiile Edge AI rulează adesea pe dispozitive embedded, alimentate de la baterii sau proiectate să funcționeze cu un consum energetic redus. În acest context, procesoarele pentru Viziune AI trebuie să ofere performanțe ridicate de inferență, menținând în același timp un consum mult mai scăzut decât dispozitivele tradiționale de calcul de înaltă performanță.

Microprocesorul ideal pentru Viziune AI trebuie să echilibreze performanța, eficiența energetică, gradul de integrare, ușurința dezvoltării și securitatea.

Prezentare generală a caracteristicilor cheie în selectarea unui astfel de microprocesor

Performanța de inferență: RZ/V2N oferă până la 15 TOPS datorită acceleratorului DRP-AI3 integrat, ceea ce îl face potrivit pentru aplicații midrange, precum camere inteligente, inspecții industriale și robotică la marginea rețelei (edge). În timp ce unele sisteme de înaltă performanță – cum ar fi roboții colaborativi și dronele autonome – pot necesita 80–100 TOPS, multe aplicații AI moderne funcționează foarte bine cu 1–15 TOPS, în funcție de complexitatea lor.

Eficiența energetică este exprimată prin TOPS per watt (TOPS/W), care indică numărul de operații pe secundă per watt.

Optimizarea performanței și a consumului de energie în sistemele de Viziune AI

Deși TOPS oferă o indicație de bază a performanței, viteza reală de inferență poate fi îmbunătățită semnificativ prin includerea unui accelerator AI dedicat, care descarcă sarcinile intensive ale sistemelor de Viziune AI – în special calculele pe matrici și tensori. Acest lucru permite funcționarea sistemelor într-un mod mai rapid și mai eficient, cu mai puține cicluri de ceas și cu un consum energetic redus.

Operare cu consum redus de energie: Multe dispozitive edge sunt alimentate de la baterii sau funcționează în limite termice stricte. Procesoarele pentru Viziune AI proiectate pentru aceste aplicații includ adesea scalarea dinamică a tensiunii și frecvenței (DVFS – Dynamic Voltage and Frequency Scaling), care ajustează consumul de energie în funcție de cerințele sarcinii de lucru.

Combinată cu tehnici precum pruning-ul rețelei neurale, care reduce dimensiunea modelului și elimină calculele inutile, DVFS contribuie la obținerea unui raport TOPS/W mai mare, îmbunătățind atât autonomia, cât și durata de viață a bateriei.

Acceleratorul DRP-AI3 elimină necesitatea utilizării GPU-urilor cu consum ridicat de energie, facilitând un TOPS/W superior la marginea rețelei.

Prelucrarea imaginilor și memoria pe cip în microprocesoarele pentru Viziune AI

Prelucrarea imaginilor pe cip: Microprocesoarele pentru Viziune AI care integrează un procesor de semnal de imagine (ISP) pot efectua sarcini uzuale de curățare și îmbunătățire a imaginilor, precum corectarea nivelului de negru, ajustarea culorilor, decuparea și corectarea umbririi. În aplicațiile de securitate sau supraveghere, ISP-ul poate filtra în prealabil cadrele.

De exemplu, într-un flux video continuu, sistemul poate elimina cadrele statice și poate transmite doar cadrele cu mișcare sau activitate (cum ar fi detectarea intrușilor) către procesorul AI, reducând inferența inutilă și economisind energie.

Memorie pe cip: Memoria reprezintă un factor esențial pentru performanță și eficiență. Păstrarea datelor local evită latența și energia suplimentară necesară pentru accesarea memoriei externe, cost care poate deveni semnificativ în timpul inferenței AI în timp real. Cu 1,5 MB de SRAM pe cip și suport pentru memorie LPDDR4X, RZ/V2N echilibrează viteza de procesare internă cu opțiuni de memorie extensibile.

Accelerarea implementării AI și cerințe de securitate în sistemele de Viziune AI

• Accelerarea implementării AI: Seturile de instrumente AI și plăcile de evaluare care includ aplicații și interfețe preprogramate pot ajuta dezvoltatorii să prototipeze și să implementeze rapid aplicații de Viziune AI. În plus, microprocesorul ar trebui să poată suporta formate standard de modele AI. RZ/V2N este compatibil cu formatele standard de modele, precum ONNX și TensorFlow Lite.
• Securitate: În mediile de la marginea rețelei, fiecare senzor sau terminal poate reprezenta un potențial vector de atac. Din acest motiv, este esențial ca microprocesoarele pentru Viziune AI să includă funcții de securitate integrate, precum pornirea securizată și rutele de date criptate. RZ/V2N integrează funcții de pornire securizată și criptare la nivel de hardware și utilizează Arm TrustZone pentru izolarea operațiunilor sensibile, contribuind la protejarea atât a integrității modelului, cât și a datelor de intrare.

Caracteristici ale microprocesorului RZ/V2N care facilitează proiectarea bazată pe inteligență artificială

Acceleratorul AI proprietar al Renesas, DRP-AI3 (Dynamically Reconfigurable Processor), are o eficiență nominală de 10 TOPS/W, dar poate ajunge la 15 TOPS/W datorită funcției avansate de pruning, care reduce dimensiunea modelelor și elimină calculele inutile. Această optimizare poate elimina necesitatea utilizării unei unități de procesare grafică (GPU) separate sau a unui FPGA (Field-Programmable Gate Array).

RZ/V2N măsoară doar 15 mm pătrați, ceea ce îl face o opțiune potrivită pentru dispozitive compacte. Combinarea unui procesor quad-core, a unui accelerator AI dedicat și a suportului pentru două intrări de cameră într-un singur dispozitiv creează noi oportunități pentru proiectanți de a integra Viziune AI în aplicații precum camere inteligente, echipamente de securitate, roboți sau chiar aparate electrocasnice.

Figura 3: Diagrama bloc a arhitecturii RZ/V2N. (Sursa imaginii: Renesas Electronics)

Microprocesorul funcționează cu un consum energetic redus, ceea ce scade cantitatea de căldură generată și elimină necesitatea sistemelor suplimentare de răcire sau ventilație, reducând astfel dimensiunea și costul soluțiilor embedded. Prin posibilitatea de a conecta două camere, dispozitivul permite captarea imaginilor din două unghiuri și îmbunătățirea recunoașterii spațiale. Un singur sistem poate efectua simultan mai multe operații, cum ar fi numărarea vehiculelor într-o parcare și recunoașterea plăcuțelor de înmatriculare.

Arhitectura procesorului RZ/V2N

Microprocesorul RZ/V2N oferă un set complet de caracteristici și funcții proiectate pentru dezvoltarea aplicațiilor AI midrange, care necesită performanțe ridicate la un cost accesibil (Figura 3).

Câteva dintre caracteristicile cheie includ:

• Unitate centrală de procesare (CPU): Arhitectura hibridă integrează un procesor Cortex-A55 Quad la 1,8 GHz, o unitate de înaltă performanță și un procesor Cortex-M33 la 200 MHz, un nucleu cu consum redus de energie, conceput pentru control în timp real și sarcini legate de siguranță.
• Memorie internă partajată: 1,5 MB de RAM pe cip cu cod de corectare a erorilor (ECC), care contribuie la menținerea integrității datelor. Algoritmii ECC detectează și corectează erorile atât în timpul stocării, cât și în timpul transferului de date. Memoria internă de 1,5 MB permite executarea rapidă a algoritmilor AI, iar RZ/V2N include și o interfață pentru memorie DDR externă, pentru cazurile în care aplicația necesită capacitate suplimentară.
• Accelerator AI: Motorul AI dedicat DRP-AI3 de la Renesas permite procesarea rapidă a inferenței, oferind consum energetic redus și flexibilitatea necesară pentru dispozitivele finale (endpoints).

Capabilități multimedia, periferice și suport de dezvoltare pentru RZ/V2N

• Video și grafică: Unitatea de procesare grafică (GPU) și procesorul de semnal de imagine (ISP), disponibile opțional, permit procesarea mai eficientă a imaginilor și redarea grafică optimizată.
• Timere: Timerele integrate suportă operațiuni în timp real, esențiale pentru controlul motoarelor și alte aplicații de automatizare.
• Bloc audio: Potrivit pentru aplicații audio multicanal, precum difuzoare inteligente sau sisteme de infotainment.
• Interfețe: Printre interfețele disponibile pentru modulul microprocesorului de Viziune AI se numără interfețe de memorie de mare viteză și periferice cu lățime de bandă ridicată.
• Bloc analogic: Convertorul analog-digital (ADC) de 12 biți integrat elimină necesitatea utilizării unor ADC-uri externe în sistemele de control sau în aplicațiile de monitorizare.

Figura 4: Kitul de evaluare pentru RZ/V2N include o placă CPU, o placă de expansiune și două subplăci, împreună cu un SDK AI. (Sursa imaginii: Renesas Electronics)

Renesas oferă și kitul de evaluare RTK0EF0186C03000BJ pentru RZ/V2N, care permite proiectanților să prototipeze și să evalueze aplicații de Viziune AI (Figura 4). De asemenea, sunt disponibile aplicații AI care acoperă peste 50 de cazuri de utilizare, alături de SDK-ul AI al companiei, accesibil pe GitHub.

Concluzie

RZ/V2N de la Renesas este potrivit pentru aplicații AI midrange care trebuie să furnizeze informații bazate pe date cu latență redusă și viteză ridicată. Dimensiunea sa compactă și abilitatea de a oferi performanță de inferență în timp ce funcționează cu un consum energetic redus îl fac ideal pentru o gamă largă de dispozitive embedded.

Autor: Rolf Horn – Inginer de aplicații
Rolf Horn, inginer de aplicații la DigiKey, face parte din grupul european de asistență tehnică din 2014, având responsabilitatea principală de a răspunde la orice întrebări legate de dezvoltare și inginerie de la clienții finali din EMEA, precum și de a scrie și corecta articole și bloguri în limba germană pe platformele TechForum și maker.io ale DK. Înainte de DigiKey, a lucrat la mai mulți producători din domeniul semiconductorilor, axându-se pe sisteme embedded FPGA, microcontrolere și procesoare pentru aplicații industriale și auto.

Rolf deține o diplomă în inginerie electrică și electronică de la Universitatea de Științe Aplicate din München, Bavaria și și-a început cariera profesională la un distribuitor local de produse electronice în calitate de arhitect de soluții de sistem pentru a-și împărtăși cunoștințele și expertiza în continuă creștere în calitate de consilier de încredere. Hobby-uri: petrecerea timpului cu familia + prietenii, călătoriile cu autorulota personală VW-California și plimbarea cu motocicleta, un BMW GS 100 din 1988.

DigiKey   |   https://www.digikey.ro

Glosar de termeni

Midrange: Categorie de performanță intermediară în procesarea AI, situată între soluțiile entry-level și cele high-end, potrivită pentru aplicații embedded cu cerințe moderate până la ridicate.
Edge / Edge AI: Procesare a datelor direct pe dispozitivul final (la marginea rețelei), reducând latența și eliminând necesitatea trimiterii datelor brute în cloud.
DRP-AI3 (Dynamically Reconfigurable Processor): Accelerator AI proprietar Renesas, capabil să execute rețele neurale cu eficiență ridicată (până la 15 TOPS/W), reconfigurându-și dinamica resursele interne în funcție de model.
Pruning: Tehnică de optimizare a rețelelor neurale care elimină conexiunile cu impact redus, reducând dimensiunea modelului și numărul total de calcule necesare.

ISP (Image Signal Processor): Procesor dedicat prelucrării și îmbunătățirii imaginilor (corectare de culoare, reducerea zgomotului, umbrire, decupare etc.), utilizat înainte de inferența AI.
ECC (Error Correction Code): Mecanism hardware care detectează și corectează erorile din date, atât în memorie, cât și în transmisii, îmbunătățind fiabilitatea sistemului.
TOPS / TOPS/W: TOPS – Tera Operații pe Secundă, măsură a performanței AI. TOPS/W – Eficiența energetică, exprimată ca număr de operații AI per watt.
Endpoint: Dispozitiv final (nod IoT, cameră, senzor, robot etc.) care procesează date sau face inferență locală.