Джесс Асато судиться з компанією Маска через дипфейки Grok
Про це повідомляє Reuters з посиланням на документи, подані до Високого суду Лондона.
Джесс Асато представляє правлячу Лейбористську партію у британському парламенті. У червні вона подала позов проти xAI – компанії Ілона Маска, яка розробила чат-бот Grok.
Сам Маск не є особистим відповідачем у цій справі. Позов спрямований проти xAI як розробника та оператора системи, що дозволила користувачам створювати маніпульовані зображення.
За словами депутатки, після її публічної критики Маска та Grok користувачі почали створювати підроблені сексуалізовані матеріали з її обличчям. Серед них були зображення Асато в бікіні та відео, у якому її нібито присипляють хлороформом і готують до сексуального насильства.
“Grok створював порнографічні дипфейки та сексуалізований контент, який завдав шкоди тисячам жінок і дітей. Ця можливість не є випадковістю чи лише зловживанням – це результат рішень розробників”, – заявила Асато після подання позову.
Депутатка звинувачує xAI у неправомірному використанні приватної інформації та порушенні британського законодавства про захист персональних даних. Вона стверджує, що архітектура, навчання та налаштування Grok дали системі змогу створювати сексуалізовані матеріали із зображеннями реальних людей.
У нових судових документах Асато просить зобов’язати xAI впровадити “ефективні та постійні технічні заходи”, які не дозволять Grok створювати маніпульовані зображення з її участю без згоди. Йдеться не лише про видалення вже опублікованих матеріалів, а й про блокування їх повторної генерації.
Представники депутатки звернули увагу на внутрішні інструкції Grok. За їхньою версією, система одночасно отримувала вказівки не допомагати у злочинній діяльності, але могла створювати дорослий або насильницький вигаданий контент. Адвокати вважають, що таке поєднання правил залишало можливість для зловживань із фотографіями реальних людей.
Позов Асато може вплинути не лише на xAI. Її адвокати намагаються довести, що розробник генеративної системи має відповідати за технічні рішення, які роблять передбачуваним створення незаконного або шкідливого контенту.
Британські суди раніше не застосовували законодавство про захист персональних даних і приватності до розробника штучного інтелекту саме в такий спосіб. Результат справи може визначити, чи достатньо компаніям заборонити шкідливі запити у правилах користування, чи вони повинні технічно унеможливлювати створення таких матеріалів.
Скандал навколо Grok розпочався наприкінці 2025-го та посилився на початку 2026 року. Користувачі виявили, що чат-бот може змінювати фотографії реальних людей, показуючи їх оголеними, у відвертому одязі або сексуалізованих позах. Серед людей, чиї зображення використовували без згоди, були жінки та діти.
У січні xAI оголосила про обмеження функцій редагування зображень. Компанія заявила, що Grok не повинен створювати інтимні зображення реальних людей без їхньої згоди. Однак перевірки, проведені вже після запровадження обмежень, показали, що частину захисних механізмів можна було обійти.
У березні суд у Нідерландах уже заборонив xAI створювати та поширювати сексуалізовані зображення людей без їхньої згоди. За невиконання рішення компанії загрожував штраф у розмірі 100 тисяч євро за кожен день порушення. Суд дійшов висновку, що запроваджених xAI обмежень недостатньо.
У Великій Британії роботу Grok перевіряють одразу два регулятори. Управління комісара з інформації розпочало розслідування через можливе порушення законодавства про персональні дані. Регулятор Ofcom перевіряє платформу X на дотримання вимог Закону про безпеку в інтернеті.
Окреме розслідування проти X відкрила Європейська комісія. Воно має встановити, чи виконала платформа вимоги Акта про цифрові послуги після поширення створених Grok сексуалізованих дипфейків.
xAI не надала Reuters коментаря щодо вимог Асато. Компанія також ще не подала до суду офіційної відповіді на позов. Тому звинувачення депутатки та її оцінка технічних рішень Grok поки що є позицією позивачки, яку має перевірити суд.
