Prestigebyrå ber om ursäkt efter AI fel i domstolsinlaga

Den amerikanska advokatbyrån Sullivan & Cromwell har bett en federal domstol om ursäkt efter att ha lämnat in en inlaga med felaktiga rättskällor som genererats av AI, uppger Reuters.

I ett brev till domaren Martin Glenn i den federala konkursdomstolen på Manhattan medger byrån att inlagan innehöll så kallade AI hallucinationer, alltså påhittade eller felaktigt återgivna rättsfall och juridiska källor. Felet upptäcktes av motpartens ombud vid Boies Schiller Flexner, som uppmärksammade bristerna i materialet.

Enligt byrån berodde misstagen på att interna riktlinjer för användning av AI inte följdes. Dessutom fångade inte den efterföljande granskningsprocessen upp de felaktiga hänvisningarna innan inlagan lämnades in. Byrån har därefter gett in en korrigerad version till domstolen, enligt Reuters.

Händelsen inträffade inom ramen för ett konkursmål kopplat till den kambodjanska koncernen Prince Global Holdings. Sullivan & Cromwell företräder utländska företrädare i processen.

Fallet är ytterligare ett i raden där domstolar i USA konfronteras med konsekvenserna av att jurister använder AI i sitt arbete. Flera domare har redan utdömt sanktioner mot advokater som lämnat in material utan att tillräckligt kontrollera AI genererade uppgifter. Samtidigt är användningen av AI i sig inte förbjuden, men advokater är skyldiga att säkerställa att allt som ges in till domstol är korrekt.

Händelsen illustrerar den växande spänningen mellan effektivisering och ansvar i takt med att AI får en allt större roll i juridiskt arbete, enligt Reuters.