Společnost xAI Elona Muska podala žalobu na uživatele svého chatbota Grok. Tvrdí, že obcházel jeho bezpečnostní omezení a vytvářel sexuálně explicitní podvrhy dospělých i nezletilých. Firma požaduje náhradu škody a trvalý zákaz používání jejích služeb.
Společnost xAI podala 14. července civilní žalobu u federálního soudu v severním Texasu. Jejím terčem je muž z Jižní Karolíny Terry Wayne Harwood, který měl podle firmy porušit podmínky používání Groku.
xAI v žalobě tvrdí, že si muž vytvořil nejméně dva účty a mezi prosincem 2025 a únorem 2026 nahrával do chatbota běžné fotografie skutečných dospělých i dětí. Následně měl Grok pomocí cílených pokynů přimět, aby snímky upravil do sexuálně explicitní podoby.
Chatbot údajně některé jeho požadavky nejprve odmítl. Muž však měl zadání opakovaně přeformulovávat a používat zavádějící pokyny, dokud se mu nepodařilo bezpečnostní filtry obejít. Společnost jej viní také z vytváření a šíření materiálů zobrazujících sexuální zneužívání dětí.
Server The Verge uvedl, že byl Harwood už v únoru zatčen a čelí osmi bodům obžaloby souvisejícím s držením a šířením podobného obsahu. xAI tvrdí, že alespoň část snímků spojených s trestním případem vznikla nebo byla upravena pomocí Groku.
Obvinění v trestním řízení ani tvrzení uvedená v civilní žalobě zatím nebyla prokázána před soudem.
Firma požaduje odškodnění i zákaz používání Groku
xAI tvrdí, že jednání uživatele poškodilo její pověst a vystavilo ji právním rizikům. Požaduje proto finanční náhradu, uhrazení nákladů na případné soudní spory a trvalý zákaz, který by Harwoodovi zabránil vytvářet nové účty nebo používat produkty společnosti.
Podle právního serveru Recording Law se případ řadí mezi první situace, kdy významná firma zabývající se umělou inteligencí zažalovala vlastního uživatele kvůli obsahu vytvořenému jejím nástrojem.
Civilní žaloba se opírá především o údajné porušení smluvních podmínek xAI. Nejde tedy o trestní obžalobu podanou firmou. Případné trestní řízení vedené státními orgány probíhá samostatně.
Případ současně otevírá otázku, nakolik za škodlivý obsah odpovídá jeho autor a nakolik provozovatel nástroje, který jeho vytvoření umožnil. Samotné podání žaloby tuto otázku neřeší. Odpověď bude záviset na rozhodnutí soudu a na výsledku dalších řízení.
