AI Act: в ЕС объяснили правила маркировки дипфейков

Еврокомиссия опубликовала руководство по маркировке дипфейков и другого контента, созданного или измененного искусственным интеллектом. С 2 августа поставщики AI-систем должны будут встраивать в материалы машиночитаемые метки, а компании и профессиональные пользователи — предупреждать аудиторию о дипфейках и применении некоторых других технологий.

Руководство разъясняет требования статьи 50 AI Act, но не вводит новые правила. Еврокомиссия уточнила, на кого распространяются обязанности, какая маркировка должна быть видна человеку и когда достаточно технической метки, распознаваемой программами.

Поставщики встроят маркировку в сами AI-системы

Поставщиком считается компания или другое лицо, которое разработало AI-систему либо заказало ее разработку и выпустило продукт на рынок под своим названием. Требования распространяются и на компании за пределами Евросоюза, если результаты работы их систем используются в ЕС.

Разработчики чат-ботов, голосовых помощников, AI-агентов и виртуальных персонажей должны обеспечить предупреждение о том, что человек общается с искусственным интеллектом. Отдельная пометка не потребуется, если использование ИИ очевидно для достаточно информированного и внимательного пользователя.

Поставщики генеративных систем также должны снабжать созданные ими изображения, аудио, видео и тексты машиночитаемой маркировкой. Она должна позволять техническим средствам определить, что материал был сгенерирован или существенно изменен искусственным интеллектом.

Требование не распространяется на стандартную вспомогательную обработку, которая существенно не меняет исходные данные или их смысл. Например, обычная коррекция изображения или редактирование текста с помощью ИИ не должны автоматически превращать результат в маркируемый синтетический контент.

Компании и профессиональные пользователи раскроют дипфейки

Отдельные обязанности предусмотрены для операторов AI-систем — организаций и людей, использующих их в профессиональной деятельности. Если компания применяет ИИ через сотрудников, оператором считается сама организация, а не каждый журналист, дизайнер или редактор в отдельности.

Профессиональные пользователи должны явно сообщать аудитории, что изображение, аудиозапись или видео являются дипфейком. Предупреждение необходимо разместить не позднее момента, когда человек впервые увидит или услышит такой материал.

Для художественных, сатирических и вымышленных произведений действует более мягкое правило. Сообщить об использовании дипфейка все равно придется, но маркировка не должна мешать восприятию произведения.

Организации также обязаны предупреждать людей о применении систем распознавания эмоций и биометрической категоризации. Это требование касается, например, технологий, которые анализируют выражение лица или голос и на их основании относят человека к определенной категории.

СМИ смогут использовать исключение для редакционной проверки

Особые правила распространяются на тексты, созданные или измененные ИИ и опубликованные для информирования общества. К общественно значимым темам Еврокомиссия относит, в частности, политику, работу органов власти, правосудие, общественную безопасность, здравоохранение и основные права.

Такой текст необходимо обозначить как созданный или измененный искусственным интеллектом, если он публикуется без человеческой проверки. Однако видимая маркировка не требуется, когда материал прошел редакционный контроль, а физическое или юридическое лицо несет ответственность за публикацию.

Таким образом, СМИ не обязаны автоматически ставить пометку «создано ИИ» на каждом материале, при подготовке которого использовались генеративные инструменты. Исключение действует, если текст проверил человек и за его содержание отвечает редакция. При этом обязанность поставщика AI-системы встраивать техническую машиночитаемую метку остается отдельным требованием.

Совет ЕС одобрил запрет на ИИ-системы, предназначенные для создания сексуального или интимного контента с изображением реального человека без его согласия. Речь идет в том числе о sexual deepfakes — материалах, в которых внешность человека помещают в сексуальный контекст без его разрешения. Ранее RTVI рассказывал об этих ограничениях и переносе части требований к высокорисковым AI-системам.

Личные публикации не всегда подпадают под AI Act

Использование AI-систем исключительно в личных и непрофессиональных целях исключено из требований статьи 50. Еврокомиссия приводит пример человека, который создал дипфейк и разместил его в социальной сети как частный пользователь: непосредственно AI Act не обязывает его ставить маркировку.

Ситуация меняется, если пользователь регулярно получает от такой деятельности доход либо действует в рамках бизнеса, профессии или работы на фрилансе. В этом случае блогер, автор или создатель контента может считаться профессиональным оператором AI-системы и должен выполнять требования о раскрытии.

Это исключение из AI Act не отменяет другие нормы. На публикацию дипфейков по-прежнему могут распространяться законодательство о персональных данных, авторском праве, клевете, защите изображения человека и правила самих онлайн-платформ.

Основные правила начнут действовать 2 августа

Требования статьи 50 AI Act начнут применяться 2 августа 2026 года. Материалы, созданные и опубликованные до этой даты, не потребуется маркировать задним числом.

Ограниченный переходный период до 2 декабря предусмотрен только для AI-систем, выпущенных на рынок до 2 августа. Их поставщикам предоставили дополнительное время для внедрения машиночитаемой маркировки сгенерированного контента. Остальные требования, включая раскрытие дипфейков профессиональными пользователями, начнут применяться в августе.

Контролировать выполнение правил преимущественно будут национальные органы стран ЕС. За нарушение требований могут назначить штраф до €15 млн либо до 3% мировой годовой выручки компании — в зависимости от того, какая сумма окажется выше.