ШІ-чатбот Grok призупинив опцію генерації зображень для основної частини користувачів X внаслідок її використання для створення матеріалів сексуального чи жорстокого змісту. Це рішення було ухвалено після попереджень про стягнення штрафів та вірогідну заборону X на території Сполученого Королівства.

ШІ-чатбот Grok припинив можливість творення зображень для значної частини юзерів соціальної мережі Х після масового невдоволення стосовно його застосування для згенерованих картинок відвертого та брутального характеру. Про це інформує The Guardian, повідомляє УНН. 

Деталі

Підкреслюється, що ця дія була здійснена згодом, як власникові соцмережі Ілону Маску погрожували фінансовими санкціями, регуляторними застереженнями та відомостями про можливий бан X в Об’єднаному Королівстві.

Раніше учасники Х застосовували ШІ-чатбот для творення зображень жінок задля їх роздягання. Зараз ця можливість деактивована, окрім платних абонентів.

В повідомленні в соціальній мережі X акаунт Grok відмітив: “Створення та обробка зображень поки що доступні тільки платним користувачам”.

Це означає, що велика частина відвідувачів платформи не має змоги створювати зображення за допомогою Grok. Водночас у платних підписників X зберігаються цілісні відомості та дані щодо кредитних карток, що уможливлює їх ідентифікувати в разі зловживання цією опцією.

Однак існує також окремий застосунок Grok Imagine, в якому, згідно з відомостями неплатних користувачів, ще можливо формувати сексуалізовані зображення жінок та дітей. Дослідження Guardian, виявило, що його використовували для генерування порнографічних чи жорстоких відео з жінками без їх згоди.

Після поновлення можливості формування зображень Grok наприкінці грудня протягом останніх двох тижнів було створено тисячі сексуалізованих зображень жінок без їхньої згоди. Маск неодноразово одержував публічні заклики вилучити чи обмежити цю функцію, однак до цього моменту соціальна мережа не робила жодних заходів.

Дослідження AI Forensics, паризької неприбуткової організації, виявило близько 800 зображень та відео, створених за допомогою додатка Grok Imagine, що мали порнографічний та сексуально насильницький зміст.