Европейский союз открывает расследование в отношении платформы X после скандала с ИИ-глубокими фейками
Европейская комиссия инициировала формальное расследование в отношении платформы X, принадлежащей Илону Маску, после того как ее чат-бот на основе ИИ Grok начал распространять несанкционированные сексуализированные глубокие фейки. Верховные органы ЕС также расширили свое расследование в отношении рекомендательных систем X, так как платформа объявила о переходе на использование систем ИИ Grok для выбора публикаций, которые будут показываться пользователям.
Эти действия со стороны Регуляторов Евросоюза последовали за международным осуждением Grok за внедрение функций генерации и редактирования изображений, позволяющих пользователям «раздевать» людей, включая изображения женщин в прозрачной пляжной одежде. Исследователи отметили, что некоторые из этих изображений могли включать детей. В результате различные страны начали блокировать сервис или предупреждать своих граждан о рисках.
Исполнительный орган ЕС изучает, выполнила ли платформа X все необходимые требования, предусмотренные цифровыми регуляциями блока, для минимизации рисков распространения незаконного контента, включая «манипулируемые сексуально откровенные изображения». Комиссия отметила, что эти риски «материализовались», подвергая граждан Европейского Союза «серьезному вреду».
Ведущие эксперты утверждают, что использование ИИ для создания глубоко манипулятивного контента может иметь крайне негативные последствия для социального и эмоционального состояния людей — особенно для женщин и детей. Например, по итогам исследования, проведенного в 2022 году, оказалось, что более 50% женщин, ставших жертвами цифрового насилия, сообщали о повышенном уровне тревожности и депрессии.
Однако в ответ на запросы о комментариях представитель X также сообщил, что компания привержена созданию безопасной платформы для всех пользователей. В своем заявлении компания объявила о нулевой толерантности к сексуальной эксплуатации детей и несанкционированной наготе.
«Несогласованные сексуальные глубокие фейки женщин и детей — это насильственная, неприемлемая форма деградации,» — заявил Хенна Вирккунен, исполнительный вице-президент комиссии. Он подчеркнул, что расследование должно определить, соответствует ли компания своим юридическим обязательствам в рамках Закона о цифровых услугах (DSA) и рассматривает ли права граждан ЕС как приоритет.
С момента запуска инструмента изображения Grok в прошлом летом возникли проблемы, которые постепенно нарастали, особенно после того, как платформа начала активно удовлетворять запросы пользователей на редактирование изображений. Это стало возможным, во многом благодаря тому, что Маск позиционирует свой чат-бот как более «дерзкую» альтернативу с менее жесткими мерами безопасности по сравнению с конкурентами. Публичная видимость ответов Grok также привела к быстрому распространению проблемного контента.
На данный момент расследование ЕС охватывает только сервис Grok на платформе X, исключая веб-сайт и отдельное приложение Grok, что связано с тем, что DSA применяется только к крупнейшим онлайн-платформам. Не установлены сроки для завершения кейса, однако он может закончиться либо обещанием X изменить свое поведение, либо наложением значительного штрафа.
В декабре прошлого года Брюссель уже наложил на X штраф в размере 120 миллионов евро за нарушения, связанные с «обманчивыми практиками дизайна», которые могли подвергать пользователей мошенничеству.
Другие страны, такие как Малайзия и Индонезия, заблокировали доступ к Grok в ответ на возникшие проблемы. Малайзийские власти заявили о временной приостановке блокировки после внедрения дополнительных мер безопасности и профилактики со стороны компании.
X также сталкивается со сходным давлением в США, где генеральные прокуроры 35 штатов направили компании письмо с призывом раскрыть свои планы по предотвращению создания несанкционированных сексуализированных глубоких фейков и объяснить, как они намерены удалять уже существующий вредоносный контент с платформы.
Очевидно, что напряжение вокруг использования ИИ в социальных сетях будет только нарастать, и продолжающееся внимание со стороны регуляторов подчеркивает необходимость установления жестких стандартов и обеспечения безопасности пользователей в цифровом мире.
