Еврокомиссия расследует компанию X из-за чат-бота Grok

Еврокомиссия инициировала расследование в отношении американской технологической компании X из-за ее искусственного интеллекта чат-бота Grok, который создавал сексуализированные изображения женщин и детей.

«Несогласованные сексуальные дипфейки женщин и детей представляют собой насильственную и недопустимую форму унижения,» — заявила вице-президент Еврокомиссии Хенна Вирккун. Регулятор выразил обеспокоенность тем, что подобные технологии могут способствовать распространению незаконного контента, в том числе материалов, связанных с сексуальным насилием над детьми.

Расследование направлено на выяснение, соблюдает ли компания X свои обязательства согласно законодательству Европейского Союза, включая необходимость «тщательной оценки и смягчения системных рисков.» В заявлении комиссии подчеркивается, что к числу этих рисков относится распространение незаконного контента в ЕС, включая манипулированные сексуальные изображения, что может представлять реальную угрозу для граждан.

Напомним, что платформа, принадлежащая Илону Маску, подверглась резкой критике после того, как пользователи Grok смогли изменить одежду женщин на бикини и создать сексуализированные изображения несовершеннолетних. В ответ на международное недовольство, X ввела ряд ограничений, включая запрет редактирования изображений реальных людей в откровенной одежде. Кроме того, функция создания изображений была ограничена только платными подписчиками.

Важно отметить, что открытие расследования не предвосхищает его результаты. В Великобритании регулятор Ofcom также начал официальное расследование в отношении платформы X по аналогичному поводу. Премьер-министр Великобритании Кир Стармер назвал созданные ИИ изображения «абсолютно отвратительными». Французские власти также занимаются расследованием Grok, начатым еще прошлым летом, в котором рассматриваются утверждения о том, что алгоритмы социальной сети были изменены для продвижения контента крайней правой ориентации. Также были добавлены новые обвинения, касающиеся отрицания Холокоста и сексуальных изображений.

Grok уже был запрещен в Индонезии и Малайзии, что подчеркивает растущую обеспокоенность международного сообщества к технологиям, которые могут угрожать безопасности и моральным нормам.

В то же время, Брюссель расширил отдельное расследование в отношении X, которое было открыто в декабре 2023 года. Европейская комиссия оценивает, смогла ли платформа правильно оценить и смягчить все системные риски в соответствии с Законом о цифровых услугах (DSA). В рамках текущего расследования также будет рассматриваться влияние недавнего перехода к системе рекомендаций, основанной на Grok. В декабре комиссия уже наложила на X первый штраф в размере 120 миллионов евро за вводящую в заблуждение аутентификацию пользовательских аккаунтов и другие нарушения.

Согласно данным отчета Европейского агентства по правам человека, репутация социальных сетей находится на критически низком уровне, и пользователи требуют более жесткого контроля за содержанием. Статистика показывает, что более 70% пользователей европейских социальных платформ выражают беспокойство по поводу наличия нежелательного контента, что делает активные меры со стороны регуляторов не просто желательными, но и необходимыми для сохранения общественной безопасности и нравственности.

Таким образом, расследование против X и его чат-бота Grok становится символом более широкой проблемы — необходимости обдуманного регулирования технологий, способных влиять на социальные нормы и ценности.