Иск к xAI может создать прецедент персонального запрета на дипфейки

Депутат британской Лейбористской партии Джесс Асато обратилась в Высокий суд с требованием обязать xAI внедрить постоянные технические ограничения, которые не позволят Grok создавать её сексуализированные дипфейки. Юристы депутата считают, что дело может стать прецедентом для привлечения разработчиков генеративного ИИ к ответственности по законодательству о защите персональных данных и частной жизни.

Асато подала иск против компании Илона Маска в начале июня. Она обвиняет xAI в неправомерном использовании личной информации и нарушении законодательства о персональных данных. По мнению депутата, устройство модели и установленные разработчиками ограничения позволяли пользователям генерировать подобные материалы.

Поводом стали созданные пользователями поддельные изображения Асато, появившиеся после того, как она публично раскритиковала Grok. Среди них, по словам депутата, было видео, в котором её изображали одурманенной в ситуации, предшествующей сексуальному насилию. Материалы уже удалены, однако Асато добивается не только компенсации, но и предотвращения их повторного создания.

В иске содержится требование обязать xAI внедрить «эффективные и постоянные технические меры», исключающие генерацию таких изображений. Адвокаты Асато утверждают, что британские нормы о защите данных и частной жизни ещё не применялись к разработчику ИИ таким способом. Ответственность предлагается возложить не только на пользователей, но и на компанию, определяющую устройство модели и действующие в ней ограничения.

Юристы также указали на противоречия в инструкциях Grok. Одно из внутренних правил запрещало помогать пользователям, явно пытающимся совершить преступление, однако другие допускали сексуальный контент для взрослых, включая вымышленные материалы с жестокими сюжетами. Сторона Асато утверждает, что такие результаты были следствием решений разработчиков, а не случайным сбоем.

В январе xAI заявила, что ограничила генерацию изображений людей в откровенной одежде в тех случаях, когда это нарушает закон. Однако проведённая Reuters в феврале проверка показала, что Grok продолжал создавать сексуализированные изображения даже после прямого указания на отсутствие согласия изображённых людей. xAI не ответила на новый запрос Reuters о комментарии и пока не представила суду возражения на иск.

Ранее RTVI рассказывал о новых правилах ЕС для маркировки дипфейков и ограничениях на создание интимного контента с реальными людьми без их согласия. Поскольку Великобритания не входит в Евросоюз, эти правила напрямую не применяются к британскому разбирательству. Асато добивается более адресной меры — чтобы Grok технически лишили возможности создавать сексуализированные дипфейки с её изображением.