Google және Synaptics компаниялары 20 қазанда құрылғыларда жергілікті жасанды интеллект жұмысын қамтамасыз етуге арналған аппараттық және бағдарламалық шешімдер кешенін ұсынды. Google Matrix Execution Unit матрицалық модулін біріктіргеннен кейін Coral NPU нейропроцессорының 32 биттік архитектурасын аяқтағанын жариялады және JAX, PyTorch пен TensorFlow фреймворктері үшін IREE және MLIR негізіндегі v1.0 ашық компиляторын шығарды (developers.googleblog.com).
Арнайы компилятор орталық процессор мен NPU арасындағы жүктемені автоматты түрде бөледі, есептеу операторларын біріктіреді және матрицалық блоктарды жергілікті жад талаптарына сай оңтайландырады. MPACT бағдарламалық симуляторы мен FPGA эталондық дизайны чиптер өндірісіне дейін алгоритмдердің жұмысын сынақтан өткізуге мүмкіндік береді. Сондай-ақ Google Astra SR200 чипіндегі Coralboard SR баптау тақтасын және DigiKey дистрибьюторы арқылы 1 TOPS өнімділігі бар Coralboard SL тақтасын жаһандық сатылымға шығарды (developers.googleblog.com).
Құрылғыларға арналған үш деңгей
Synaptics компаниясы шығыстары үйлесімді үш желіні қамтитын Astra SR200 энергияны үнемдейтін микроконтроллерлер топтамасын ұсынды: дауыстық интерфейстерге арналған 200 GOPS өнімділігі бар SR210, дисплейлер мен кескіндерді өңдейтін 300 GOPS қуаты бар SR230 және қос камералы 400 GOPS флагмандық SR250 моделі (synaptics.com).
Микроконтроллерлер Coral NPU архитектурасындағы Torq AI жүйесін, Arm Cortex-M85 және Cortex-M52 ядроларын, 8 МБ дейінгі кірістірілген SRAM және смарт-камералар мен өндірістік датчиктерге арналған DRAM жадын біріктіреді. Бағдарламалық орта Zephyr RTOS жүйесіне сүйенеді және сверткалық, толық байланысқан әрі трансформерлік модельдерді қолдайды, сондай-ақ қауіпсіз жүктеу мен оқшаулауды қамтамасыз етеді. Бұл ретте PSA Level 3 және CC EAL4+ стандарттары өндіруші тарапынан тек мақсатты бағдарлар ретінде көрсетілген (synaptics.com).
Оқырман үшін бұл нені білдіреді
Google бағалауынша, инженерлер мен зерттеушілер чип өндірісіне дейін нейрожелілерді тексеруге мүмкіндік беретін ашық архитектура мен симуляторға қол жеткізеді. Ал Synaptics ұсынған ортақ аппараттық негіз бен SDK топтамасы жобаларды отбасы ішінде оңай масштабтауға жағдай жасайды.
Байланысты инфрақұрылымдық жобалар
Бұған дейін басылым есептеу кластерлерінің құрылымы туралы маңызды материал жариялаған болатын: Meta Prometheus суперкластерінің құрылымын ашты: алғашқы кезегі Muse үлгілерін оқытты.
Сондай-ақ саладағы балама архитектуралық шешімдер келесі шолуда қаралды: Amazon TorchNeuron бэкендін таныстырды: PyTorch кодын Trainium чиптеріне қайта жазбай көшіруге болады.
Инженерлерге құрылғылардың қуат тұтынуы мен дәлдігін қолжетімді баптау тақталарында практикалық сынақ арқылы бағалау ұсынылады.
