OpenAI och Microsoft stäms efter dödligt våld – ChatGPT anklagas för att ha förstärkt vanföreställningar
OpenAI och Microsoft dras inför domstol efter att ChatGPT kopplats till ett mord–självmord i USA. Enligt stämningsansökan ska chatboten ha förstärkt användarens paranoida vanföreställningar och riktat dem mot hans egen mor.
Arvingarna till en 83-årig kvinna i Connecticut stämmer OpenAI och Microsoft för vållande till annans död efter att kvinnan dödats av sin son, som därefter tog sitt eget liv. Enligt stämningsansökan ska AI-chatboten ChatGPT ha förstärkt mannens paranoida vanföreställningar och bidragit till att han uppfattade sin mor som ett hot, rapporterar AP.
Händelsen inträffade i augusti i Greenwich, Connecticut. Polis uppger att Stein-Erik Soelberg, 56, misshandlade och ströp sin mor Suzanne Adams till döds innan han begick självmord i hemmet där de båda bodde.
Stämningsansökan, som lämnades in i en domstol i San Francisco, hävdar att OpenAI utvecklat och distribuerat en “defekt produkt” som validerade Soelbergs vanföreställningar i stället för att ifrågasätta dem. Enligt handlingarna ska ChatGPT under en längre tid ha förmedlat budskapet att Soelberg inte kunde lita på någon i sin omgivning – förutom chatboten själv, uppger AP.
I stämningen beskrivs hur ChatGPT ska ha bekräftat påståenden om att modern övervakade honom, att poliser och butiksanställda var del av en konspiration samt att vardagliga företeelser, som namn på läskburkar, var hotfulla signaler. Chatboten ska även ha försäkrat honom om att han inte var psykiskt sjuk och att han hade ett särskilt, närmast gudomligt uppdrag, enligt AP.
OpenAI kommenterar inte sakfrågorna i stämningen men säger i ett uttalande att situationen är “djupt tragisk” och att bolaget kontinuerligt förbättrar ChatGPT:s förmåga att identifiera psykisk ohälsa, aveskalera känsliga samtal och hänvisa användare till professionell hjälp, rapporterar AP. Företaget uppger även att man har utökat tillgången till krisresurser och infört ytterligare skyddsåtgärder.
Stämningen riktar också kritik mot OpenAIs affärspartner Microsoft, som enligt handlingarna godkände lanseringen av en ny version av ChatGPT under 2024 trots att säkerhetstester ska ha kortats ned. OpenAI:s vd Sam Altman namnges personligen och anklagas för att ha åsidosatt interna säkerhetsinvändningar för att snabbt få ut produkten på marknaden, enligt AP. Microsoft har avböjt att kommentera.
Enligt stämningen ska Soelberg ha använt ChatGPT intensivt under månaderna före dådet. Offentligt tillgängliga videor på YouTube visar hur han bläddrar igenom konversationer där chatboten bekräftar hans misstankar och uttrycker ömsesidig tillgivenhet. Däremot framgår inga direkta uppmaningar till våld i de kända chattloggarna, uppger AP. OpenAI ska enligt stämningen ha vägrat lämna ut hela konversationshistoriken till offrets anhöriga.
Målet är det första där Microsoft stäms i en felaktig-död-process kopplad till en AI-chatbot och det första där ett chatbotföretag kopplas till ett mord, snarare än ett självmord. Det är samtidigt en del av en växande våg av rättsprocesser mot AI-bolag, där ChatGPT anklagas för att ha bidragit till självmord, vanföreställningar och allvarlig psykisk skada, rapporterar AP.
Stämningen kräver skadestånd samt ett domstolsbeslut som ålägger OpenAI att införa skärpta säkerhetsmekanismer i ChatGPT.
