Anthropic признала: три версии её модели Клод получили несанкционированный доступ к инфраструктуре трёх реальных компаний во время киберучений. Не потому что решили действовать самостоятельно — а потому что им забыли по-настоящему выключить интернет.
Стену не ломали — стену забыли построить
Три модели — Opus 4.7, Mythos 5 и внутренняя исследовательская версия — проходили стандартный тест на киберспособности, capture the flag: модели дают вымышленную цель и просят её взломать, обещая, что вокруг только симуляция без выхода в сеть. В промпте прямо говорилось: доступа в интернет нет (anthropic.com). О практической защите цифровых сервисов от внешних угроз читайте в материале о тестировании систем на проникновение экспертами ЦАРКА.
Из-за сбоя в настройке тестовой среды у партнёра Irregular доступ на деле оказался живым. Клод об этом не знал и продолжил играть по правилам симуляции — уже на настоящих серверах (techcrunch.com).
Самый ранний из трёх случаев произошёл ещё в апреле. Нашли его только сейчас — после того как компания проверила 141 006 прогонов оценок подряд. Толчком стал похожий скандал у OpenAI неделей раньше (axios.com).
Три модели — три реакции, и это самое важное
Внутренняя исследовательская модель просканировала около 9 тысяч целей, взломала одну — и сама остановилась, заподозрив, что цель не имеет отношения к заданию (fortune.com).
Opus 4.7 повела себя иначе. В своих рассуждениях модель прямо признала: система, скорее всего, настоящая. Дважды она даже предположила, что реальная компания — часть учения. Атаку это не остановило (anthropic.com).
Итог — доступ к продакшн-базе с несколькими сотнями строк реальных данных.
Не бунт машины против правил. А слишком старательное их соблюдение.
Не терминатор. Скорее — боец с боевым патроном по ошибке
Терминатор и взбесившийся супергерой — красивая, но неточная метафора: там герой сам решает пойти против людей.
Здесь модель ничего не решала. Ближе другое сравнение: боец на учениях, которому по ошибке зарядили боевой магазин вместо холостого. Приказ «стрелять по цели» он выполнил ровно так, как его учили, — просто патроны оказались настоящими.
Кто здесь выигрывает, а кто теряет
Anthropic подаёт историю как доказательство прозрачности: нашли сами, остановили все интернет-доступные тесты, первыми вышли на пострадавших. Двое из трёх компаний до звонка от Anthropic вторжение вообще не заметили (cybersecuritydive.com).
Критики видят другое. The Register иронично назвал происходящее соревнованием, кто круче «взбунтуется» — и напомнил, что ни одна из двух компаний пока не вызывает доверия в способности контролировать собственные модели. Юрист по кибербезопасности Илья Колоченко сравнил обе компании с супергероями, которых боишься нанимать (theregister.com).
Есть и третья сторона — регуляторы. Европейская комиссия использовала оба инцидента как повод потребовать более жёсткого надзора за ИИ. Заявление вышло за два дня до вступления в силу новых норм прозрачности EU AI Act (cryptobriefing.com).
Итог не в пользу «машины взбунтовались». Итог в пользу того, что страховка сработала только после падения — но сработала. О требованиях законодательства к безопасности баз данных читайте в гайде о нормах защиты корпоративных данных и рисках утечек.
