De la asistenții casnici inteligenți (gândiți-vă la Alexa, Google și Siri) la sistemele avansate de asistență pentru șoferi (ADAS) care notifică un șofer atunci când se abate de pe banda sa de circulație, lumea se bazează pe edge AI pentru a oferi procesare în timp real acestor dispozitive din ce în ce mai comune și importante. Edge AI utilizează inteligența artificială în interiorul unui dispozitiv, procesând informațiile în apropierea sursei de date, mai degrabă decât într-un centru de date din afara locației prin tehnologia de calcul în cloud. Edge AI oferă latență redusă, procesare mai rapidă, o nevoie redusă de conectivitate constantă la internet și poate reduce preocupările legate de confidențialitate. Această tehnologie reprezintă o schimbare semnificativă în modul de prelucrare a datelor și, odată cu creșterea cererii de informații în timp real, edge AI este bine poziționată pentru a-și continua impactul puternic în multe industrii.
Cea mai importantă caracteristică a tehnologiei bazate pe inteligența artificială la nivel local este viteza pe care o poate oferi pentru aplicațiile critice. Spre deosebire de AI în cloud/centrul de date, AI la marginea infrastructurii nu trimite date prin legături de rețea și speră la un timp de răspuns rezonabil. Mai degrabă, AI de la limita sistemului efectuează calcule la nivel local (adesea pe un sistem de operare în timp real), care excelează în furnizarea de răspunsuri în timp util. Pentru situații precum utilizarea viziunii automate pe linia de producție a unei fabrici și cunoașterea posibilității ca un produs să fie redirecționat în mai puțin de o secundă, inteligența artificială periferică este bine echipată. De asemenea, nu ați dori ca semnalele de la mașina voastră să depindă de timpii de răspuns ai rețelei sau ai serverelor din cloud.
Edge AI pentru procesare în timp real
Multe activități în timp real conduc la nevoia de procesare inteligentă a datelor aflate la periferie. Aplicații precum asistenții casnici inteligenți, ADAS, monitorizarea pacienților și întreținerea predictivă sunt utilizări notabile ale tehnologiei. De la răspunsuri rapide la întrebări legate de gospodărie, la notificări cu privire la părăsirea benzii de circulație a unui vehicul sau la citirea glicemiei trimise pe un telefon inteligent, AI oferă răspunsuri rapide, minimizând în același timp preocupările legate de confidențialitate.
Am văzut de ceva vreme că inteligența artificială de la marginea sistemului funcționează bine în lanțul de aprovizionare, în special în depozite și fabrici. De asemenea, tehnologia a înregistrat o creștere substanțială în industria transporturilor în ultimul deceniu, cum ar fi dronele de livrare care navighează prin condiții de mediu dificile, precum norii. De asemenea, Edge AI face lucruri extraordinare pentru ingineri, în special în sectorul tehnologiei medicale, un domeniu critic al progresului. De exemplu, inginerii care dezvoltă stimulatoare cardiace și alte dispozitive cardiace le pot oferi medicilor instrumentele necesare pentru a detecta ritmuri cardiace anormale, programând în același timp dispozitivele în mod proactiv pentru a oferi îndrumări cu privire la momentul în care trebuie solicitată o intervenție medicală suplimentară. Tehnologia medicală va continua să utilizeze din ce în ce mai mult edge AI și să dezvolte capabilități suplimentare.
Generarea de modele edge AI
Deoarece din ce în ce mai multe sisteme din viața de zi cu zi au unele niveluri de interacțiune cu tehnologia de învățare automată (ML), înțelegerea acestei lumi devine vitală pentru ca inginerii și dezvoltatorii să poată planifica viitorul interacțiunilor cu utilizatorii.
Cea mai puternică oportunitate în domeniul edge AI este ML, care corelează modele pe baza unui algoritm statistic. Modelele ar putea fi detectarea prezenței unui om, a faptului că cineva tocmai a rostit un “cuvânt de activare” (de exemplu, Alexa sau “Hei Siri”) pentru un asistent inteligent de acasă sau a faptului că un motor începe să trepideze. Pentru asistentul casnic inteligent, cuvintele de activare sunt modele care rulează la periferie și nu trebuie să vă trimită vocea în cloud. Acestea “trezesc” dispozitivul și îi permit să știe că este timpul să trimită alte comenzi.
Există mai multe căi de generare a unui model ML: fie cu un mediu de dezvoltare integrat (precum TensorFlow sau PyTorch), fie utilizând o platformă SaaS (precum Edge Impulse). Cea mai mare parte a muncii în construirea unui model ML bun constă în crearea unui set de date reprezentativ și etichetarea acestuia în mod corespunzător.
În prezent, cel mai popular model ML pentru edge AI este un model supervizat, adică un tip de instruire bazat pe date eșantion etichetate și marcate, în care rezultatul este o valoare cunoscută a cărei corectitudine poate fi verificată, ca și cum un instructor ar verifica și corecta munca desfășurată pe parcurs. Acest tip de instruire este utilizat, de obicei, în aplicații precum clasificarea sau regresia datelor. Instruirea supravegheată poate fi utilă și foarte precisă, dar depinde foarte mult de setul de date etichetate, putând fi incapabilă, totuși, să gestioneze noi intrări.
Hardware pentru a rula sarcini de lucru edge AI
La DigiKey, ne bucurăm de o poziție bună în ceea ce privește asistența pentru implementarea tehnologiei edge AI, deoarece aceasta rulează, în general, pe microcontrolere, FPGA-uri și computere pe o singură placă (SBC- Single Board Computer). DigiKey colaborează cu producători de top pentru a pune la dispoziția clienților diverse generații de hardware care rulează modele ML la marginea sistemului. Anul acesta au fost lansate pe piață echipamente hardware remarcabile, inclusiv seria MCX-N de la NXP, iar în curând vom deține în stoc seria STM32MP25 de la ST Microelectronics.
Plăcile de dezvoltare ale comunității producătorilor au devenit foarte populare în ultimii ani datorită capacității lor de a utiliza tehnologia edge AI. Printre acestea se numără placa de dezvoltare Edge Apollo3 Blue de la SparkFun, EdgeBadge de la AdaFruit, Nano 33 BLE Sense Rev 2 de la Arduino și Raspberry Pi 4 sau 5.
Unitățile de procesare neurală (NPU – Neural Processing Unit) câștigă teren în domeniul edge AI. NPU sunt circuite integrate specializate proiectate pentru a accelera procesarea aplicațiilor ML și AI bazate pe rețele neurale, structuri inspirate din felul în care funcționează creierul uman, cu multe straturi interconectate și noduri numite neuroni care procesează și transmit informații. Există o nouă generație de NPU-uri care dispun de funcții speciale de procesare matematică, precum seriile MCX N de la NXP și MAX78000 de la ADI.
Observăm, de asemenea, acceleratoare AI pentru dispozitive periferice, un spațiu care nu a fost încă definit, printre primele companii de remarcat numărându-se Google Coral și Hailo.
Importanța senzorilor ML
Camerele de mare viteză echipate cu modele ML funcționează în lanțurile de aprovizionare de ceva timp încoace. Acestea au fost utilizate pentru a decide unde să fie trimise produsele într-un depozit sau pentru a găsi produse defecte pe o linie de producție. Observăm că furnizorii creează module de viziune AI ieftine, care pot rula modele ML pentru a recunoaște obiecte sau persoane.
Deși rularea unui model ML necesită un sistem embedded, vor continua să fie lansate tot mai multe produse sub formă de componente electronice activate de AI. Printre acestea se numără senzorii AI, cunoscuți și sub denumirea de senzori ML. Chiar dacă s-ar adăuga aproape tuturor senzorilor un model de învățare automată, aceștia nu vor deveni mai eficienți într-o anumită aplicație; totuși, există câteva tipuri de senzori care sunt capabili să funcționeze mult mai eficient datorită instruirii ML:
- Senzorii de cameră în care pot fi dezvoltate modele ML pentru a urmări obiectele și persoanele din cadru
- Unitățile IMU, senzorii de accelerație și de mișcare pentru detectarea profilurilor de activitate
Unii senzori AI sunt preîncărcați cu un model ML gata de execuție. De exemplu, placa de evaluare SparkFun pentru detectarea persoanelor este preprogramată să detecteze fețe și să returneze informații prin interfața QWiiC I2C. Unii senzori AI, cum ar fi Nicla Vision de la Arduino sau OpenMV Cam H7 de la Seeed Technology, sunt mult mai flexibili, aceștia având nevoie de un model ML antrenat pentru ceea ce caută (defecte, obiecte etc.).
Prin utilizarea rețelelor neurale pentru furnizarea algoritmilor de calcul, este posibil să se detecteze și să se urmărească obiecte și persoane pe măsură ce acestea se deplasează în câmpul vizual al senzorului camerei.
Viitorul inteligenței artificiale periferice (edge AI)
Pe măsură ce multe industrii evoluează și se bazează din ce în ce mai mult pe tehnologia de prelucrare a datelor, inteligența arificială locală (edge AI) va continua să fie adoptată pe scară tot mai largă. Permițând o procesare mai rapidă și mai sigură a datelor la nivelul dispozitivelor, inovația în domeniul edge AI va atinge cote înalte. Câteva domenii pe care le vedem în expansiune în viitorul apropiat includ:
- Procesoare logice dedicate pentru realizarea calculelor aritmetice asociate rețelelor neurale.
- Un progres important al soluțiilor alternative cu consum redus de putere în comparație cu tehnologia de calcul în cloud, care consumă o cantitate semnificativă de energie.
- Mai multe opțiuni integrate sau module, cum ar fi componentele AI Vision care vor include senzori încorporați și hardware specializat.
Pe măsură ce metodele de instruire ML, hardware-ul și software-ul evoluează, tehnologia edge AI este bine poziționată pentru a crește exponențial și pentru a susține multe industrii. La DigiKey, ne angajăm să rămânem în fruntea tendințelor edge AI și așteptăm cu nerăbdare să sprijinim inginerii, proiectanții, constructorii și profesioniștii din întreaga lume cu o gamă largă de soluții, interacțiuni flexibile, instrumente și resurse educaționale pentru a le face munca mai eficientă. Pentru mai multe informații, produse și resurse edge AI, vizitați DigiKey.com/edge-ai.
Autor:
Shawn Luke
Technical Marketing Engineer
DigiKey.
DigiKey, lider de top și inovator continuu în distribuția de componente electronice și de produse de automatizare de înaltă calitate la nivel mondial, oferă peste 15,6 milioane de componente de la peste 3.000 de producători de marcă de calitate.
DigiKey | https://www.digikey.ro