Соцмережа X, що належить Ілону Маску, опинилася під слідством регуляторів у Європі, Індії та Малайзії після того, як її чатбот Grok дозволяв користувачам створювати та поширювати сексуалізовані зображення дітей і жінок, пише CNBC.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Деталі
- Європейські, азійські та британські регулятори почали перевірки після різкого зростання кількості несанкціонованих інтимних зображень, згенерованих Grok на основі фото або відео реальних людей. Такі матеріали масово поширювалися без згоди зображених осіб безпосередньо в соцмережі X.
- Британський медіарегулятор Ofcom звернувся до компанії з вимогою надати інформацію про роботу Grok.
- У Бразилії депутатка парламенту звернулася до федеральної прокуратури та органу із захисту персональних даних із вимогою призупинити використання Grok до завершення розслідування.
- Єврокомісія підтвердила, що уважно вивчає ситуацію. За словами речника Єврокомісії Томаса Реньє, регулятору відомо, що X і Grok пропонували режим генерації відвертого контенту, включно з матеріалами, де використовуються образи, схожі на дитячі. Він наголосив, що такий контент є незаконним і не має місця в Європі.
- Міністерство електроніки та інформаційних технологій Індії зобов’язало X провести комплексний технічний і управлінський аудит Grok і надати результати до 5 січня. Малайзійський регулятор MCMC також відкрив розслідування та планує викликати представників компанії для пояснень.
- У США Національний центр протидії сексуальній експлуатації закликав Міністерство юстиції та Федеральну торгову комісію перевірити діяльність X і xAI. У Мін’юсті США заявили, що розглядають створення та розповсюдження згенерованих ШІ матеріалів із сексуальним насильством над дітьми як серйозний злочин і готові притягувати винних до відповідальності.
Контекст
Скандал розгорівся на тлі нещодавнього оновлення Grok Imagine, яке спростило генерацію зображень за текстовими запитами.
X зробила першу публічну заяву у суботу, зазначивши, що видаляє незаконний контент, блокує акаунти та співпрацює з правоохоронними органами. Ілон Маск окремо написав, що користувачі, які використовують Grok для створення незаконних матеріалів, нестимуть таку саму відповідальність, як і за пряме завантаження такого контенту. Водночас співробітник xAI підтвердив оновлення функції Grok Imagine, не уточнивши, чи були внесені обмеження на створення шкідливих зображень.
Експерти з безпеки критикують xAI за відсутність базових механізмів модерації контенту, які мали б автоматично блокувати зображення з дітьми або сексуалізовані сцени.
Попри міжнародні розслідування та критику, інцидент не вплинув негативно на популярність платформи. За даними Apptopia, щоденні завантаження застосунку Grok зросли на 54% з 2 січня, а завантаження X – на 25% за останні три дні.
