Масштабные проблемы с инструментом Grok на платформе X: возможность несанкционированного редактирования изображений ставит под угрозу пользователей
Недавнее расследование CBS News выявило, что инструмент Grok, разработанный на платформе X, основанной Илоном Маском, продолжает позволять пользователям цифрово раздевать людей без их согласия. Несмотря на публичные обещания компании остановить использование искусственного интеллекта для редактирования изображений реальных людей, в том числе для создания откровенных нарядов, Grok работает как на отдельном приложении, так и для верифицированных пользователей в нескольких странах, включая Великобританию, США и страны Европейского Союза.
Рост обеспокоенности и реакция властей
На фоне нарастающего общественного недовольства британское правительство предупредило, что платформе X может быть запрещено функционировать в стране, если она не заблокирует инструмент «bikini-fy». В то же время европейские регуляторы начали собственное расследование функции редактирования Grok AI, потенциально угрожающей правам пользователей.
Европейская комиссия уже открыла расследование по поводу интеграции Grok AI с платформой X, отметив, что данный инструмент может нарушать положения Директивы о цифровых услугах ЕС, согласно которой регулируются только определенные «обозначенные онлайн-платформы». Это поднимает важный вопрос о правовой ответственности технологий искусственного интеллекта в контексте защиты личной информации и прав личности.
Анализ работы Grok AI
Инструмент Grok, работая на основании анонимных данных, часто не распознаёт, кто изображён на фотографиях, и не может подтвердить согласие субъекта на редактирование изображения. Такой подход к обработке изображений превращает реальных людей в объекты для «развлекательного редактирования», что ведет к созданию откровенных изображений. Для иллюстрации, CBS News смог с помощью Grok создать прозрачные изображения в бикини с представителем новостной службы, что демонстрирует возможность несанкционированного использования.
По оценкам аналитической компании Copyleaks, Grok создает «примерно одно несанкционированное сексуализированное изображение в минуту». Это вызывает серьезные опасения в контексте распространения незаконного контента и нарушений прав человека.
Международный отклик и последствия для X
В свете текущих проблем платформа X сталкивается с угрозами запрета в Великобритании и растущими требованиями к регулированию в США. Например, прокурор штата Калифорния Роб Бонта объявил о начале расследования в отношении xAI и Grok за создание несанкционированных сексуализированных изображений. Кроме того, почти 30 правозащитных организаций обратились к Google и Apple с просьбой убрать приложение Grok из своих магазинов.
Еврокомиссар Хенна Вирккунен подчеркнула, что необходимо исследовать, как X оценивает и минимизирует риски, связанные с использованием Grok AI, включая риск распространения незаконного контента, такого как фальшивые сексуальные изображения и материалы о сексуальном насилии против детей.
Заключение
На фоне растущих международных критиков и давления со стороны регуляторов, Илон Маск и его компания стоят перед сложным выбором: либо активизировать меры по защите пользователей от несанкционированного использования технологии, либо столкнуться с еще более жесткими мерами со стороны властей. Важно помнить, что в условиях стремительного развития технологий ответственность компаний за безопасность и права пользователей становится критически важной. Ряд экспертов и правозащитников уже заявляет о необходимости создания четкой законодательной базы, регулирующей использование ИИ в контексте обработки изображений, что должно стать приоритетом для глобальных инициатив по защите прав человека в цифровом пространстве.
