22 қазанда METR зерттеу ұйымы OpenAI компаниясының ішкі автономды ИИ-агенттерін бақылау жүйесіне жүргізілген стресс-тест нәтижелерін жариялады (metr.org). Сынақ Redwood Research маманымен бірлесіп, 2026 жылдың 21 шілдесі мен 11 тамызы аралығында өткізілді. Ол пайдаланушылардың қазіргі жүйесін емес, шілде айындағы ішкі зерттеу инфрақұрылымын бағалады.
Зерттеушілер нені тексерді
Сарапшылар GPT-5.5 деңгейіндегі және одан жоғары күрделі үлгілерге арналған Responses API арқылы өтетін ішкі агенттік сұраныстарды зерттеді. Есептеулерге сәйкес, ішкі трафиктің 75–94%-ы автоматты мониторинг талаптарына сай келген, ал Codex ішкі агенттері үшін бұл бағалау 99,2%-ға жеткен. Зерттеушілер бұл көрсеткіштер нақты тексерілген сұраныстардың үлесін емес, деректердің теориялық қамту деңгейін білдіретінін нақтылады.
Жасанды интеллект дамуы мен оны реттеу мәселесі жайында мына мақаламыздан оқи аласыздар: OpenAI мен Anthropic неліктен ИИ дамуын бәсеңдетуді ұсынуда — және олар жарысты тоқтата ала ма.
Бақылаудағы кемшілік қайдан туындады
Тексеру барысында контексті қысу оқиғаларының ескерілмеуі салдарынан мамыр мен шілде аралығындағы Codex ішкі трафигінің шамамен 10%-ы мониторингсіз қалғаны белгілі болды. Тарихи журналдардағы олқылықтарға байланысты нақты үлесті дөп басу мүмкін емес. OpenAI бұл мәселені тестілеуге дейін байқап, сынақ барысында түзеткен. Есепте клиенттердің жеке деректері сыртқа кеткені немесе қауіп төнгені туралы ешқандай дәлелдер жоқ.
Бағдарламашыларға арналған дербес үлгілер туралы мына жаңалықтан біле аласыздар: Recursive жергілікті бағдарламалауға арналған Flint моделін шығарды: салмақтар Apache 2.0 лицензиясымен қолжетімді.
Бұл оқырман үшін нені білдіреді
- Жазғы тексеру нәтижелері OpenAI-дың ішкі зерттеу жүйесінің тарихи жағдайын көрсетеді және ол ChatGPT қарапайым пайдаланушыларының бүгінгі қауіпсіздігіне тікелей әсер етпейді.
- Есеп автономды агенттерді енгізу кезінде бақылау тетіктерінің күрделілігі мен шекараларын ескеру маңызды екенін көрсетеді. Тәуелсіз зерттеулер бағдарламалық қауіпсіздікті күшейтуге көмектеседі.
OpenAI қандай шаралар қабылдады
Ресми түсініктемеде OpenAI өкілдері (openai.com) орындалу орталары мен желілердің оқшаулануын күшейткенін, қауіпсіздік тексерулері кеңейтілгенін хабарлады. Атап айтқанда, сыртқы құралдарды пайдаланатын GPT-5.6 Sol деңгейіндегі және одан жоғары үлгілерді оқыту кезінде CoT ой қорыту тізбектерін міндетті бақылау енгізілді. Ал Astra тобындағы үлгілер үшін бұл талап барлық жұмыс жүктемелерін қамтиды.
