Meta призвали усилить контроль за фальшивыми видео с использованием ИИ

1 день назад

ПоделитьсяСохранить

Кали Хейс, технологический репортер

ПоделитьсяСохранить

Reuters

Советники социальной сети Meta заявили, что компания должна делать больше для борьбы с «распространением» фальшивого контента, созданного с помощью инструментов искусственного интеллекта (ИИ) на её платформах.

Группа из 21 человека — Совет по надзору — выразила озабоченность, когда осудила компанию за то, что она оставила опубликованным видео, созданное ИИ, в котором без маркировки показывалось масштабное разрушение в Хайфе, Израиль, якобы со стороны иранских сил.

Они призвали компанию полностью пересмотреть свои правила использования ИИ, предупредив, что рост количества фальшивых видео, связанных с глобальными военными конфликтами, «подорвал способность общественности отличать вымысел от факта… что создает риск всеобщего недоверия ко всей информации».

Meta заявила, что пометит рассматриваемое видео в течение семи дней.

Meta запустила Совет по надзору в 2020 году как полусамостоятельную группу, осуществляющую контроль за решениями по модерации контента на своих платформах, таких как Facebook, Instagram и WhatsApp.

Часто Совет не соглашается с решениями Meta, однако компания продолжает смягчать свою политику по контролю за контентом, что вызывает вопросы о реальной власти совета.

Совет отметил, что ситуация с видео из Хайфы выявила проблемы, которые он ранее поднимал, связанные с «неэффективностью текущего подхода Meta во время вооружённых конфликтов».

В настоящее время Meta в основном полагается на пользователей, которые должны «самостоятельно сообщать», если их контент создан с помощью ИИ. В противном случае компания ожидает жалоб, после чего её команда по модерации решает, наклеить ли метку.

Совет заявил, что компания должна более активно маркировать фальшивый ИИ-контент «гораздо чаще».

Он отметил, что текущие методы «недостаточно надежны и всеобъемлющи, чтобы справляться с масштабом и скоростью распространения контента, созданного ИИ, особенно во время кризиса или конфликта, когда активность на платформе возрастает».

Рассмотрение вопроса советом было вызвано видео, опубликованным в июне прошлого года аккаунтом на Facebook, зарегистрированным на Филиппинах, который позиционировал себя как новостной источник.

Это было одним из ряда фальшивых видео, созданных ИИ и размещённых в соцсетях после начала конфликта, содержание которых было либо про-Израильским, либо про-Иранским, и, по данным BBC на тот момент, быстро набрали как минимум 100 миллионов просмотров.

Несмотря на то, что видео было создано ИИ и показывало нереальный контент, а Meta получила несколько жалоб пользователей, компания не пометила его как созданное ИИ и не удалила.

Только после того, как пользователь Facebook обратился напрямую в Совет по надзору, и совет взялся за проблему, Meta наконец отреагировала, сообщает совет.

Затем компания заявила, что видео, набравшее почти миллион просмотров, не требует маркировки и не должно быть удалено, поскольку оно «не прямо способствует риску немедленного физического вреда».

Совет отметил во вторник, что это слишком высокий порог для маркировки контента, созданного ИИ, особенно когда речь идет о вооружённом конфликте, и постановил, что видео должно было получить метку «высокого риска ИИ».

«Meta должна делать больше для борьбы с распространением обманного контента, созданного ИИ, на своих платформах… чтобы пользователи могли отличать реальное от фальшивого», — говорится в заявлении.

В своем комментарии Meta заявила, что в следующий раз, когда она столкнется с «идентичным» контентом в «тот же контекст», она последует рекомендациям совета.

Регулятор связался с Meta по поводу работников, просматривающих интимные видео с использованием AI-очков

Обнаружены зарубежные «фабрики контента», создающие политические фейковые видео

Зукерберг защищает Meta в историческом суде по зависимости от соцсетей

Социальные сети

Израиль

Искусственный интеллект

Пропаганда

Meta

Марк Цукерберг

Facebook