Pentru a răspunde la creșterea rapidă a inteligenței artificiale (AI) la periferia rețelei (Edge) și a algoritmilor de inferență asociați acesteia, Intelligent Hardware Korea (IHWK) dezvoltă o platformă de calcul neuromorfic pentru dispozitive neurotehnologice și dispozitive neuromorfice programabile în teren. Microchip Technology, prin intermediul filialei sale Silicon Storage Technology (SST), contribuie la dezvoltarea acestei platforme prin furnizarea unui sistem de evaluare pentru soluția sa de memorie neuromorfică SuperFlash® memBrain™. Soluția se bazează pe tehnologia Microchip SuperFlash de memorie nevolatilă (NVM) dovedită în industrie și este optimizată pentru a efectua multiplicarea matricei vectoriale (VMM – Vector Matrix Multiplication) pentru rețele neurale printr-o abordare analogică de calcul în memorie.
Kitul de evaluare a tehnologiei memBrain a fost proiectat pentru a permite IHWK să demonstreze eficiența energetică absolută a platformei sale de calcul neuromorfic pentru rularea algoritmilor de inferență la periferia sistemului. Scopul final este de a crea o unitate de procesare analogică (APU) cu consum de putere ultra-redus pentru aplicații precum modele generative de inteligență artificială, mașini autonome, diagnosticare medicală, procesare vocală, securitate/supraveghere și drone comerciale.
Deoarece modelele actuale de rețele neurale pentru inferența edge pot necesita 50 de milioane sau mai multe sinapse pentru procesare, devine dificil să se dispună de o lățime de bandă suficientă pentru DRAM în afara cipului, necesară pentru soluțiile pur digitale, creând un blocaj la nivelul rețelelor neurale care limitează puterea de calcul globală. În schimb, soluția memBrain stochează greutățile sinaptice în poarta flotantă pe cip, în modul de consum de putere ultra-redus și utilizează aceleași celule de memorie pentru a efectua calculele – oferind îmbunătățiri semnificative atât în ceea ce privește eficiența energetică, cât și latența sistemului. În comparație cu abordările tradiționale bazate pe DSP digital și SRAM/DRAM, soluția oferă un consum de energie de 10 până la 20 de ori mai mic pentru fiecare decizie de inferență și poate reduce semnificativ lista generală de materiale.
Pentru a dezvolta APU, IHWK colaborează, de asemenea, cu Korea Advanced Institute of Science & Technology (KAIST), Daejeon, pentru dezvoltarea dispozitivului și cu Universitatea Yonsei, Seul, pentru asistență în proiectarea dispozitivului.
Se așteaptă ca APU-ul final să optimizeze algoritmii la nivel de sistem pentru inferență și să funcționeze între 20-80 TeraOPS per Watt, ceea ce reprezintă cea mai bună performanță disponibilă pentru o soluție de calcul în memorie, creată pentru a fi utilizată în dispozitive alimentate de la baterii.
Stocarea permanentă a modelelor neurale în interiorul elementului de procesare al soluției memBrain suportă, de asemenea, o funcționalitate ‘instant-on’ pentru procesarea în timp real a rețelelor neurale. IHWK profită de nonvolatilitatea celulelor cu poartă flotantă ale memoriei SuperFlash pentru a atinge un nou punct de referință în ceea ce privește dispozitivele de calcul periferic cu consum redus de putere care susțin inferența de învățare automată utilizând modele ML avansate.