Tonårsflickor stämmer xAI efter Grok-bilder med övergreppsmaterial

Tre tonårsflickor, varav två minderåriga, har stämt Elon Musks AI-bolag xAI i Kalifornien. De hävdar att bilder på dem använts för att skapa och sprida AI-genererat sexualiserat övergreppsmaterial mot barn, rapporterar The Guardian.

Enligt stämningsansökan upptäckte flickorna att manipulerade nakenbilder och videor av dem hade spridits i bland annat Discord och Telegram utan deras vetskap. Materialet ska, enligt talan, ha tagits fram via en tredjepartsapp som licensierat och använt Groks bild- och videogenerering.

Flickornas ombud anklagar xAI för att ha möjliggjort och tjänat pengar på tekniken trots kända risker. I stämningen beskrivs hur en misstänkt person senare greps och hur polis därefter ska ha hittat barnövergreppsmaterial i dennes telefon, material som enligt klagandena producerats med stöd av xAI:s teknik.

Målet beskrivs av The Guardian som den första grupptalan från minderåriga efter den uppmärksammade kritiken mot Groks bildgenerator tidigare i år. xAI har enligt tidningen inte kommenterat stämningen.