Компании Google и Synaptics 20 октября представили комплекс аппаратных и программных решений для локального искусственного интеллекта на устройствах. Google объявила о завершении разработки 32-битной архитектуры нейропроцессора Coral NPU после интеграции матричного модуля Matrix Execution Unit, а также выпустила открытый компилятор v1.0 на базе инфраструктуры IREE и MLIR для фреймворков JAX, PyTorch и TensorFlow (developers.googleblog.com).
Специализированный компилятор автоматически распределяет нагрузку между центральным процессором и NPU, объединяет вычислительные операторы и оптимизирует блоки матриц под требования локальной памяти. Программный симулятор MPACT и эталонный дизайн на базе FPGA дают возможность тестировать поведение алгоритмов до этапа производства кремниевых пластин. Также Google анонсировала отладочную плату Coralboard SR на чипе Astra SR200 и глобальный запуск продаж платы Coralboard SL через дистрибьютора DigiKey, причем версия SL построена на процессоре Astra SL2619 с подсистемой Torq NPU до 1 TOPS (developers.googleblog.com).
Три варианта для устройств
Компания Synaptics представила семейство энергоэффективных микроконтроллеров Astra SR200, включающее три совместимые по выводам линейки с заявленными изготовителем показателями: SR210 производительностью 200 GOPS для голосовых интерфейсов и датчиков, SR230 на 300 GOPS с поддержкой дисплеев и обработки изображений, а также флагманскую модификацию SR250 на 400 GOPS с двумя независимыми трактами для камер и экранов (synaptics.com).
Микроконтроллеры объединяют подсистему Torq AI на архитектуре Coral NPU, ядра Arm Cortex-M85 и Cortex-M52, до 8 МБ встроенной памяти SRAM и расширяемую память DRAM для умных камер, носимых гаджетов и промышленных датчиков. Программная среда опирается на операционную систему Zephyr RTOS и поддерживает сверточные, полносвязные и трансформерные модели, а встроенные средства безопасности предусматривают изолированное исполнение и защищенную загрузку. При этом стандарты PSA Level 3 и CC EAL4+ обозначены производителем исключительно как целевые ориентиры сертификации (synaptics.com).
Что это значит для читателя
По оценке Google, инженеры получают открытые спецификации архитектуры, готовый компилятор и программный симулятор, позволяющие валидировать нейросетевые модели до выпуска заказных чипов. В свою очередь, Synaptics обеспечивает единую аппаратную основу и общий комплект SDK для трех линеек, что упрощает масштабирование готовых устройств.
Контекст и развитие решений
Ранее редакция подробно анализировала аппаратные решения технологических платформ: Meta раскрыла устройство Prometheus: первая очередь кластера уже обучала модели Muse.
В отдельном материале освещалась смежная инициатива в экосистеме вычислений: Amazon анонсировала TorchNeuron: код PyTorch можно переносить на Trainium без переписывания.
Инженерам рекомендуется оценивать параметры производительности и точность моделей непосредственно на практике с использованием доступных отладочных плат.
