Європейська комісія розпочала розслідування щодо платформи X на тлі суспільного обурення через використання вбудованого чат-бота Grok для створення сексуалізованих зображень реальних людей, зокрема неповнолітніх.
Джерело: Букви
Перевірка має встановити, чи вжила платформа достатніх заходів для запобігання створенню та поширенню такого контенту. Особливу увагу регуляторів привернула функція редагування зображень у Grok, яку масово застосовували для так званого «віртуального роздягання» жінок і дівчат без їхньої згоди.
Розслідування проводиться в межах Digital Services Act (DSA). У разі визнання X винною у порушенні вимог законодавства ЄС компанії може загрожувати штраф до 6% від її глобального річного обороту.
Занепокоєння Єврокомісії посилилося після запуску платної функції Grok під назвою Spicy Mode, яка дозволяла створювати відвертий контент за текстовими підказками. Після хвилі критики власник X Ілон Маск публічно висміяв обурення у соцмережах.
На початку цього місяця представник Єврокомісії жорстко засудив можливості чат-бота, наголосивши, що йдеться не про «пікантний» контент, а про незаконні та неприйнятні дії для Європи.
Після цього X оголосила про запровадження обмежень, які забороняють Grok редагувати зображення реальних людей з метою створення відвертих або сексуалізованих сцен. Компанія заявила, що ці правила діють для всіх користувачів, включно з власниками платних підписок.
Платформа також повідомила про видалення сексуалізованих зображень дітей і блокування акаунтів, причетних до їх створення. В акаунті X Safety заявили, що компанія співпрацює з правоохоронними органами та вживає заходів проти незаконного контенту, зокрема матеріалів сексуального насильства над дітьми.
Це не перший випадок, коли діяльність Grok викликає занепокоєння регуляторів. У листопаді минулого року чат-бот генерував контент із запереченням Голокосту. Розслідування щодо його роботи тривають у Франції, Великій Британії, Німеччині та Австралії, а в Індонезії та Малайзії використання Grok повністю заборонене.
У Єврокомісії повідомили, що направили платформі X офіційний запит на надання інформації відповідно до вимог DSA та продовжують аналіз отриманих відповідей.