Google мен Synaptics компаниялары 20 қазанда шеткі құрылғыларда жергілікті жасанды интеллект жұмысын қамтамасыз ететін жаңа аппараттық және бағдарламалық құралдар кешенін таныстырды. Google Matrix Execution Unit модулі қосылғаннан кейін Coral NPU нейропроцессорының 32-биттік толық архитектурасын және JAX, PyTorch пен TensorFlow үлгілеріне арналған IREE/MLIR негізіндегі v1.0 ашық компиляторын ресми шығарды (developers.googleblog.com).
Арнайы компилятор есептеу жүктемесін орталық процессор мен NPU арасында автоматты түрде бөледі, операцияларды біріктіреді және матрица блоктарын жергілікті жад көлеміне бейімдейді (developers.googleblog.com). Бағдарламалық MPACT симуляторы мен FPGA үлгілік дизайны кремний чиптерін өндіріске жібергенге дейін үлгілерді сынауға мүмкіндік береді (developers.googleblog.com). Сонымен қатар Google Astra SR200 негізіндегі жаңа Coralboard SR тақтасын және DigiKey арқылы жаһандық сатылымға шыққан Coralboard SL тақтасын таныстырды; бұл ретте SL нұсқасы 1 TOPS-қа дейінгі Torq NPU жүйесі бар Astra SL2619 чипін пайдаланады (developers.googleblog.com).
Құрылғыларға арналған үш нұсқа
Synaptics өндірушісі Astra SR200 отбасын ұсынды, ол бір-бірімен түйіспелері үйлесімді үш дербес желіден тұрады: дауыстық интерфейстер мен сенсорларға арналған 200 GOPS қуаты бар SR210, дисплейлер мен кескіндерді өңдейтін 300 GOPS көрсеткіші бар SR230 және қос камера мен қос экранды қолдайтын 400 GOPS флагмандық SR250 моделі (synaptics.com).
Жаңа микроконтроллерлер Coral NPU архитектурасындағы Torq AI жүйесін, Arm Cortex-M85 пен Cortex-M52 ядроларын, 8 МБ дейінгі ішкі SRAM жадын және кеңейтілетін DRAM жадын біріктіреді (synaptics.com). Бағдарламалық инфрақұрылым Zephyr RTOS жүйесіне сүйенеді әрі конволюциялық, трансформерлік және толық байланысқан желілерді қолдайды, сондай-ақ қауіпсіз жүктеу мен оқшауланған ортаны қамтиды (synaptics.com). Бұл ретте PSA Level 3 және CC EAL4+ стандарттары өндіруші тарапынан тек сертификаттаудың мақсатты межелері ретінде белгіленген (synaptics.com).
Оқырман үшін бұл нені білдіреді
Google мәліметінше, инженерлер мен зерттеушілер чип өндірісіне дейін нейрожелілерді тексеруге мүмкіндік беретін ашық архитектура мен симуляторға қол жеткізеді. Ал Synaptics ұсынған ортақ аппараттық негіз бен SDK топтамасы жобаларды отбасы ішінде оңай масштабтауға жағдай жасайды.
Байланысты инфрақұрылымдық жобалар
Бұған дейін басылым есептеу кластерлерінің құрылымы туралы маңызды материал жариялаған болатын: Meta Prometheus суперкластерінің құрылымын ашты: алғашқы кезегі Muse үлгілерін оқытты.
Сондай-ақ саладағы балама архитектуралық шешімдер келесі шолуда қаралды: Amazon TorchNeuron бэкендін таныстырды: PyTorch кодын Trainium чиптеріне қайта жазбай көшіруге болады.
Инженерлерге құрылғылардың қуат тұтынуы мен дәлдігін нарықтық құны туралы болжам жасамай, отладокалық тақталарда практикалық сынақ арқылы бағалау ұсынылады.
