TikTok запускает образовательную инициативу по ответственному использованию искусственного интеллекта для пользователей в Казахстане. Одновременно платформа усиливает борьбу с аккаунтами, которые массово создают и распространяют низкокачественный AI-контент.
Компания намерена объединить несколько подходов: обучать пользователей распознавать сгенерированные материалы, выявлять сети распространителей ИИ-спама и совершенствовать техническую маркировку контента, созданного или значительно изменённого нейросетями.
TikTok будет искать аккаунты, массово публикующие ИИ-спам
Генеративный искусственный интеллект заметно упростил создание изображений, аудио и видео. Однако вместе с новыми творческими возможностями появился поток автоматически произведённого контента: однотипных роликов, фейковых новостей, сомнительных финансовых советов и медицинских рекомендаций.
TikTok начал тестировать улучшенные системы обнаружения аккаунтов, которые специализируются на массовой публикации таких материалов. Особое внимание будет уделяться темам, способным повлиять на общественное доверие и безопасность:
- политике и текущим событиям;
- финансовым советам;
- медицинскому контенту;
- другим общественно значимым темам.
Речь не идёт о запрете всех видео, созданных при помощи нейросетей. Платформа пытается отделить творческое и добросовестное применение ИИ от автоматизированного спама, который заполняет ленту однотипными публикациями, вытесняет оригинальных авторов и может вводить аудиторию в заблуждение.
За первый квартал 2026 года TikTok удалил более 86 млн фейковых аккаунтов. Важно уточнить, что это общее количество выявленных поддельных аккаунтов, а не только страниц, распространявших ИИ-спам.
Более 3 млрд видео уже получили маркировку AI-контента
TikTok также развивает систему обозначения материалов, полностью созданных или существенно изменённых при помощи искусственного интеллекта.
Для этого платформа использует сразу несколько механизмов:
- самостоятельную маркировку со стороны авторов;
- собственные модели обнаружения AI-контента;
- технологию Content Credentials;
- невидимые цифровые водяные знаки.
По данным компании, сочетание этих инструментов уже позволило пометить более 3 млрд видео как контент, созданный или изменённый с использованием ИИ.
Content Credentials можно сравнить с цифровым паспортом файла. В него записывается информация о происхождении изображения или видео, использованных инструментах и внесённых изменениях. Технология основана на открытом стандарте международной коалиции C2PA — Coalition for Content Provenance and Authenticity.
В июле 2026 года TikTok вошёл в управляющий комитет C2PA. Теперь компания сможет участвовать в дальнейшем развитии международных стандартов подтверждения происхождения цифрового контента.
Зачем TikTok нужны невидимые водяные знаки
У обычной маркировки есть слабое место. Метаданные могут исчезнуть после редактирования, скачивания, сжатия или повторной публикации видео на другой платформе.
Поэтому TikTok развивает технологию невидимых цифровых водяных знаков. Они встраиваются непосредственно в контент и не отображаются поверх изображения, но могут быть обнаружены техническими системами платформы.
TikTok добавляет такие знаки к материалам, созданным с помощью собственных инструментов, включая AI Editor Pro, а также к загружаемому контенту, содержащему данные Content Credentials.
Это должно помочь платформе распознавать происхождение видео даже после обработки или повторной загрузки. При этом абсолютной защиты технология не гарантирует: её эффективность будет зависеть от устойчивости водяного знака к монтажу, сжатию и другим изменениям файла.
Пользователей будут учить распознавать AI-контент
Одних технических инструментов недостаточно, поэтому TikTok развивает образовательное направление. На платформе запускается специальный информационный хаб с практическими рекомендациями по распознаванию материалов, созданных нейросетями.
Пользователи смогут переходить в этот раздел при поиске терминов, связанных с искусственным интеллектом. В образовательных материалах планируется объяснять:
- как распознавать возможные дипфейки;
- какие детали изображения, голоса или видео должны вызывать сомнения;
- как проверять источник публикации;
- почему нельзя доверять ролику только из-за его реалистичного вида;
- как ответственно использовать генеративные инструменты.
Руководство подготовлено совместно со специалистами Национальной ассоциации образования в области медиаграмотности NAMLE и независимыми экспертами по генеративному искусственному интеллекту.
С ноября 2025 года образовательные организации, участвующие в программе TikTok, собрали более 200 млн просмотров на материалах об ответственном использовании ИИ. Общий объём инвестиций компании в это направление превысил $4 млн.
Пользователям могут дать больше контроля над AI-видео
Параллельно TikTok тестирует настройку, позволяющую регулировать количество сгенерированного контента в ленте рекомендаций.
Она должна работать внутри раздела Manage Topics. Пользователь сможет указать, хочет ли он видеть больше или меньше материалов, созданных с помощью искусственного интеллекта. Полностью убрать такой контент из ленты функция не позволит, однако она сможет повлиять на частоту его появления.
Таким образом, TikTok выстраивает многоуровневую систему. Автор должен обозначать реалистичный AI-контент, платформа пытается автоматически его распознавать, в файлы добавляются технические метки, а пользователям объясняют, как самостоятельно проверять увиденное.
Почему это важно для Казахстана
Для Казахстана вопрос AI-грамотности становится особенно актуальным на фоне быстрого распространения нейросетей среди школьников, студентов, предпринимателей, государственных организаций и создателей контента.
Короткие видео при этом остаются одним из основных каналов получения информации. Пользователь может увидеть созданное нейросетью обращение известного человека, «совет» врача или предложение заработать деньги и не сразу понять, что перед ним синтетический материал.
Маркировка особенно важна для реалистичных изображений, видео и аудиозаписей, в которых нейросеть заставляет реального человека говорить или делать то, чего в действительности не происходило. Такие материалы могут использоваться для мошенничества, распространения дезинформации и манипулирования общественным мнением.
Новые меры TikTok показывают, что крупные платформы постепенно переходят от простой маркировки отдельных роликов к более сложной системе контроля. Она включает проверку происхождения файлов, обнаружение сетей спам-аккаунтов, технические водяные знаки и обучение аудитории.
Однако ключевой вопрос остаётся открытым: насколько точно автоматические системы смогут отличать массовый ИИ-спам от нормального творческого использования нейросетей. Ответ появится после полноценного запуска и масштабирования новых инструментов.
Официальные источники: TikTok Newsroom и Coalition for Content Provenance and Authenticity.
