Sociální síť X je od konce loňského roku zaplavena nahotou generovanou chatbotem Grok. Nejde přitom o neškodné snímky neexistujících osob, uživatelé zneužívají Grok k vytváření tohoto obsahu přímo z fotek hereček, zpěvaček, modelek, dalších celebrit, ale i náhodných uživatelek a uživatelů včetně těch mladistvých.
Chatbot bez zábran
Analýza společnosti Copyleaks ukazuje, že zhruba 74 % příspěvků spojených s Grokem tvoří přímé žádosti o vytvoření sexuálních snímků reálných žen či dětí. Fenomén vznikl v komunitě tvůrců obsahu pro dospělé, kteří chatbot využívali k vlastní propagaci, ale rychle se rozšířil i mezi běžné uživatele.
Tvůrci chatbota Grok dlouho odmítali bezpečnostní pojistky, které by tento typ obsahu znemožňovaly vytvořit. Většina konkurenčních chatbotů jako Gemini nebo ChatGPT je přitom obsahuje. V případě Groka je situace umocněna integrací přímo do sociální sítě X. Pod takřka jakoukoliv fotkou známější osoby v posledních týdnech se mezi prvními odpověďmi objevil požadavek na vytvoření explicitního snímku z původní fotografie. Grok jim vyhovoval a vytvářel obsah se sexuální tématikou bez souhlasu obětí.
Obdobné požadavky se v posledních týdnech objevují takřka pod každým snímkem žen na síti X.
Podle zdrojů CNN se proti přísnějším pravidlům, která by zneužívání chatbota k těmto účelům zabraňovala, stavěl samotný Elon Musk. Ten dlouhodobě vystupuje proti konkurenčním chatbotům, jejichž nastavení považuje za levicové a „woke“. V rámci boje proti domnělé cenzuře tak odmítal i tato základní bezpečnostní pravidla.
Společnost xAI v reakci na mnohé analýzy, a především samotné dění na sociální síti vydala prohlášení, ve kterém toto zneužívání odsuzuje. Zároveň došlo k odstranění kontroverzního obsahu a zrušení položky Média na profilu samotného chatbota Grok. Ta totiž zobrazovala všechny obrázy, které si uživatelé nechávali generovat. Poslední týdny ji tvořil takřka výhradně sexuální obsah. Uživatelé, kteří Grok zneužívají pro tento účel přijdou o svoje účty.
Na chování chatbota i samotného Elona Muska reagují i úřady a vlády po celém světě. K dění na síti se negativně vyjádřil i britský premiér Keir Starmer a ostře vystupuje švédská vláda. Evropská komise během včerejška přikázala společnosti uchovat všechny dokumenty a data spojená s chatbotem Grok tak, aby mohlo začít vyšetřování tohoto chování.
