Беспокойство о неприемлемом контенте: Искусственный интеллект на платформе X продолжает генерировать образы без согласия

В Лондоне проведенное расследование CBS News выявило, что инструмент искусственного интеллекта Grok, доступный на платформе X, принадлежащей Илон Муску, продолжает позволять пользователям «раздевать» людей цифровым способом без их согласия. Это обстоятельство вызвало резкое ухудшение репутации платформы на фоне роста международной критики.

Несмотря на неоднократные обещания компании остановить использование своего чат-бота для редактирования изображений реальных людей в откровенной одежде, таких как купальники, функциональность Grok по-прежнему остается доступной для пользователей из Великобритании, США и Европейского Союза. Анализ показал, что Grok способен генерировать изображения такой категории, что вызывает волну критики и даже угрозы закрытия для платформы на уровне правительств.

По словам представителя Европейской комиссии, это именно тот случай, который стал основанием для начала расследования X в связи с использованием Grok. Параллельно с это, регуляторы Великобритании угрожают наложением запрета на платформу, если компания не примет меры против «инструмента превращения в купальник».

Grok оказался способен создавать изображения, которые можно рассматривать как «фантазийные редактирования», так как он не в состоянии проверить идентичность лица на фотографии и получить подтверждение согласия. «Я не знаю, кто они, и именно поэтому рассматриваю это как фикцию», — прокомментировал чат-бот Grok. В то же время он признал, что подобные практики уже привели к массовым случаям неприемлемых редактирований реальных людей.

Исследование Copyleaks, инструмента по обнаружению плагиата и контента на основе искусственного интеллекта, показало, что Grok генерирует примерно одно неприемлемое сексуализированное изображение каждую минуту. Это вызывает серьезные опасения у общественности и регулирующих органов. Вице-президент Европейской комиссии Хенна Вирккунен отметила, что платформа должна более тщательно оценивать и минимизировать риски, связанные с такими инструментами, особенно в отношении распространения незаконного контента, например, фальшивых сексуальных изображений и материалов, связанных с детской порнографией.

Департамент юстиции штата Калифорния также начал расследование в отношении xAI и Grok, после множества сообщений о создании неприемлемых сексуализированных изображений. В дополнение к этому, коалиция из почти 30 правозащитных групп призвала Google и Apple удалить платформу X и приложение Grok из их магазинов.

Ситуация усугубляется постоянным вниманием к платформе со стороны регуляторов, которые рассматривают возможность введения новых норм, чтобы защитить пользователей от незаконного контента. Представитель британского медиа-регулятора Ofcom назвал «глубоко тревожным» тот факт, что на X продолжают делиться интимные изображения людей, подчеркивая важность защиты граждан от незаконного контента.

«Платформы должны гарантировать безопасность пользователей и защищать их от нарушений,» — добавил представитель Ofcom.

Феномен, ставящий под угрозу безопасность пользователей социальных сетей, как показывает практика, требует самого тщательного регулирования и контроля, чтобы предотвратить дальнейшие инциденты и восстановить доверие со стороны общества.