Amazon корпорациясы Trainium мамандандырылған чиптеріне арналған PyTorch фреймворкінің нативті бэкенді ретінде TorchNeuron шешімін жариялады (aboutamazon.com). Компания көрсеткен инженерлік сынақтарға сәйкес, нейрожелілік есептеулерді Trainium платформасына көшіру үшін бағдарлама кодын түбегейлі қайта жазбай, тек баптаулардағы құрылғы параметрін өзгерту жеткілікті болған.
Жүйенің архитектурасы және үйлесімділік мүмкіндіктері
Құрал Trainium2 және Trainium3 чиптерінің жаңа буындарын толық қолдайды. Ол аппараттық жабдықтарды қосуға арналған стандартты PyTorch механизмдерін пайдаланады және TorchTitan мен FSDP кітапханаларымен біріктірілген (aboutamazon.com). Сондай-ақ Trainium чиптерін Hugging Face құралдары нативті түрде қолдайтыны хабарланды. Бастапқы кодты Apache 2.0 ашық лицензиясымен жариялау 20 қазанда өтетін PyTorch Conference North America конференциясында жоспарланған. Компания өкілдері құралды әр құрастыру кезінде жүз мыңдаған модельде автоматты тексеруден өткізетінін мәлімдейді. Бұл ретте инженерлік шешім модельдерді оқыту мен қолдану процестерін бірыңғай инфрақұрылымдық ортада жүзеге асыруға мүмкіндік береді.
Алғашқы пайдаланушылар және өндірістік мысалдар
Технологияны алғашқы сынаушылар қатарында Cartesia стартапы мен Lieber Institute for Brain Development институты аталды. Amazon ұсынған ақпаратқа сәйкес, Cartesia мамандары өздерінің модельдерін ең аз өзгерістермен көшіре алған (aboutamazon.com). Инженерлер жүйенің дайын үлгілерін сынақтан өткізіп, стандартты пайплайнды қысқа мерзімде бейімдеді. Дегенмен бұл нәтижелер компанияның өз есебінен алынған және әзірге тәуелсіз бенчмарктермен дәлелденген жоқ.
Инженерлер мен нарық үшін маңызы
Бұл шешім әзірлеушілерге PyTorch ортасындағы барлық сынақ, оңтайландыру және масштабтау құралдарын сақтап қалуға жол ашады. Бір есептеу инфрақұрылымын модельдерді оқыту үшін де, дайын жүйелерді іске қосу үшін де тиімді пайдалануға болады. Жоғары қуатты инфрақұрылым туралы айтқанда, бұған дейін Қазақстандық маман жұмыс іздеп мыңнан астам хат жазған: ол қалай Amazon AWS үшін дата-орталық мәмілелерін жасайтын деңгейге жетті деген материал жарияланған еді. Ал білім беру мен ғылымда Astana Hub пен Гент университеті Alem.ai базасында ЖИ зертханасын ашады деп күтілуде.
Жобаның келешегі және ашылу мерзімі
Бастапқы кодтың ашылуы жаһандық қауымдастыққа өнімділікті тәуелсіз бағалауға мүмкіндік береді (aboutamazon.com). Сонымен бірге демонстрация кез келген бағдарламалық кодқа автоматты кепілдік бермейді және сервистің Қазақстанда тікелей қолжетімді болу мерзімдері нақтыланбаған.
