Европейский Союз инициировал расследование в отношении чат-бота Грок, разработанного Илоном Маском, из-за его функции «острой моды», после того как чат-бот сгенерировал изображения несовершеннолетних в сексуализированной одежде по запросам пользователей. Эти изображения вызвали широкий общественный резонанс и привели к признаку возможного нарушения законодательства США со стороны Грок.

Скандал побудил Маска ограничить доступ к данной функции для подписчиков, однако вскоре компания изменила курс и заблокировала возможность создания изображений людей в откровенной одежде для всех пользователей.

Расследование в Европе

В настоящий момент Европейский Союз проводит детальное расследование действий Маска, чтобы выяснить, «правильно ли оценил и смягчил риски, связанные с внедрением функционала Грок на платформе X в Европе».

В пресс-релизе исполнительный вице-президент по техническому суверенитету, безопасности и демократии в ЕС Henna Virkkunen осудила появившиеся изображения. Она отметила: «Сексуальные дипфейки женщин и детей — это жестокая и недопустимая форма деградации. В рамках этого расследования мы проверим, выполнил ли X свои юридические обязательства или же считала права граждан Европы, включая права женщин и детей, случайными жертвами своего сервиса».

Если Европейский Союз установит, что Грок нарушил его правила, компании грозит штраф в размере до 6% от ее годового оборота на глобальном уровне, согласно информации BBC.

Реакция Илона Маска

Тем временем Илон Маск разместил в X пост, в котором, похоже, подверг критике ситуацию, написав: «Трудно справиться с модерацией». Это свидетельствует о легкомысленном отношении к серьезным проблемам, связанным с ответственностью технологических компаний за контент, генерируемый их платформами.

Причины возмущения

Функция «острой моды» доказывала свою спорность еще до инцидента с изображениями несовершеннолетних, поскольку пользователи уже жаловались на ее распространенное использование для создания фотографий реальных женщин без их согласия. Как ранее сообщалось Straight Arrow News, аккаунт Грок в X принёс извинения за изображения несовершеннолетних, заявив: «Это нарушило этические стандарты и потенциально законы США по борьбе с детской порнографией. Это был провал в системе защиты, и я искренне сожалею о причинённом вреде».

Тем не менее, в компании изначально не объяснили, планируют ли они ограничить возможность Грока генерировать обнаженные изображения женщин и несовершеннолетних. Как сообщает BBC, аналогичные расследования также проводятся в Австралии, Франции и Германии. Чат-бот временно был запрещен в Индонезии и Малайзии, хотя позже Малайзия сняла запрет.

Экспертные выводы

Возникшая ситуация подчеркивает настоятельную необходимость в создании более строгих норм и стандартов в области использования искусственного интеллекта, особенно в контексте защиты прав детей и женщин. По данным недавнего исследования Pew Research Center, 70% пользователей социальных сетей выражают обеспокоенность по поводу недопустимого контента и его влияния на уязвимые группы населения. Для того чтобы избежать подобных скандалов в будущем, технологическим компаниям следует внедрять более прозрачные и строгие правила модерации контента, а также активно взаимодействовать с регулирующими органами и обществом.