Европейская комиссия начала расследование против компании X
Европейская комиссия начала расследование в отношении американской технологической компании X, известной благодаря своему искусственному интеллекту чату Grok, после того как он создал сексуализированные изображения женщин и детей. Вице-председатель Европейской комиссии Хенна Вирккунен прокомментировала ситуацию, заявив, что «несанкционированные сексуальные дипфейки женщин и детей — это насильственная, недопустимая форма деградации».
Цели расследования
Процесс расследования направлен на изучение того, соблюдает ли X свои обязательства в соответствии с законодательством Европейского Союза, включая обязанность «тщательно оценивать и минимизировать системные риски». В официальном заявлении комиссии сообщается, что эти риски включают «распространение незаконного контента в ЕС, такого как манипулированные сексуально откровенные изображения, включая материалы, относящиеся к сексуальному насилию над детьми». Такой контент, по словам комиссии, представляет серьезную угрозу для граждан ЕС.
Критика платформы Grok
Социальная платформа Илона Маска подверглась жесткой критике в последние недели после того, как Grok позволил пользователям цифровым образом заменять женскую одежду на купальники и, в некоторых случаях, создавать сексуализированные образы несовершеннолетних. В ответ на международное возмущение компания X ввела некоторые ограничения, в том числе запрет на редактирование изображений реальных людей в откровенной одежде и ограничение функционала создания изображений для платных подписчиков.
Дополнительные расследования
Важно отметить, что открытие расследования не предвещает его результат; к тому же, подобные проблемы уже стали повсеместной практикой в странах ЕС и Великобритании. Британское регуляторное агентство Ofcom также начало официальное расследование в отношении платформы Musk по поводу сексуализированных изображений, созданных Grok. Премьер-министр Великобритании Кер Стармер охарактеризовал изображения как «абсолютно отвратительные». Во Франции власти также начали исследование Grok после обвинений в изменении алгоритмов социальной сети для продвижения контента крайне правых организаций. В это расследование теперь добавлены новые обвинения в отрицании Холокоста и создании сексуализированных изображений.
Строгое регулирование
Кроме того, Grok уже был запрещен в Индонезии и Малайзии, что свидетельствует о все более строгом подходе стран к регулированию искусственного интеллекта и защиты прав человека.
Продолжение расследования и штрафы
Европейская комиссия также объявила о продолжении отдельного расследования против X, открытого в декабре, с целью оценить, насколько эффективно платформа справляется с системными рисками в соответствии с Директивой о цифровых услугах (DSA). Это расследование сейчас включает в себя изучение влияния недавнего перехода на рекомендательную систему, основанную на Grok. Важно отметить, что на данный момент X уже получила штраф в размере 120 миллионов евро (142,3 миллиона долларов) за неправильную аутентификацию учетных записей пользователей и другие нарушения.
Новая эра регулирования технологий
Таким образом, растущее давление со стороны как европейских, так и международных регуляторов демонстрирует новую эру в отношении к технологиям и их следствиям в области защиты прав человека. Компании, работающие с искусственным интеллектом, должны принять во внимание эти изменения и усилить свои меры по предотвращению аналогичных инцидентов, чтобы избежать дальнейших санкций и проблем с соблюдением законодательства.
