xAI подает в суд на пользователя Grok за предполагаемое создание откровенных дипфейков с участием несовершеннолетних

ИИ-компания Илона Маска xAI подала иск против жителя Южной Каролины, обвинив его в использовании чатбота Grok для создания материалов сексуального насилия над детьми и сексуально откровенных дипфейков с участием несовершеннолетних. Дело стало одним из первых известных исков, в рамках которого ИИ-компания предприняла прямые юридические действия против одного из своих пользователей за якобы злоупотребление платформой для генерации незаконного контента.

Как следует из жалобы, ответчик нарушил условия пользования xAI, намеренно используя Grok для создания и манипулирования откровенными изображениями. Иск предусматривает денежную компенсацию и постоянный судебный запрет, который должен лишить человека возможности в будущем обращаться к Grok или другим сервисам xAI.

Компания добивается более жесткого принуждения

xAI утверждает, что предполагаемое злоупотребление нанесло вред жертвам и при этом подвергло компанию юридическим, финансовым и репутационным рискам. Компания заявила, что в 2026 году она существенно инвестировала в модерацию контента и меры по соблюдению правил. В частности, эти меры включали приостановку работы десятков тысяч аккаунтов и подачу десятков тысяч сообщений в Национальный центр по делам пропавших без вести и эксплуатируемых в сексуальной эксплуатации детей.

Также компания сообщила, что ее усилия по информированию помогли сотням арестов. В рамках гражданского разбирательства xAI рассчитывает подчеркнуть, что пользователи, которые намеренно обходят защитные меры платформы для создания незаконного контента, могут столкнуться со значительными юридическими последствиями, выходящими за рамки уголовного преследования.

Более пристальный надзор за безопасностью ИИ

Иск подан на фоне растущего давления на ИИ-компании с целью усилить защитные механизмы против недобровольных дипфейков и эксплуатации детей. Ранее в этом году xAI столкнулась с отдельными судебными разбирательствами, инициированными несовершеннолетними, которые утверждали, что их технологией использовали для генерации сексуально откровенных изображений на основе их фотографий. Эти дела усилили призывы к более строгой модерации и более надежным техническим защитам во всех платформах генеративного ИИ.

Последний иск указывает на смену стратегии. Вместо того чтобы реагировать только ограничениями платформы и банами аккаунтов, xAI теперь добивается гражданского иска против пользователей, которых, по ее версии, целенаправленно воспользовались ее технологией. Наблюдатели отрасли ожидают, что дело станет важным тестом того, как ИИ-компании могут применять договорные соглашения и действующие законы для противодействия незаконному использованию генеративного ИИ, одновременно демонстрируя активное соблюдение своих политик безопасности.