Högsta domstolen utdömer böter till advokat för användning av ChatGPT i mordrättegång

Högsta domstolen i New Mexico fällde nyligen advokaten Stephen Aarons från Santa Fe för domstolsförakt efter att han lämnat in en överklagandehandling som innehöll vittnesmål och vittnen som var påhittade av ChatGPT. Förra året försvarade Aarons en klient som dömts för mord när han använde chatboten för att sammanfatta rättegångsprotokollen, för att sedan lämna in det resulterande dokumentet utan någon föregående korrekturläsning. Inlagan innehöll uttalanden som tillskrevs vittnen som inte existerade, tillsammans med påhittade kommentarer som felaktigt tillskrevs ett verkligt vittne.

Domstolens svar var rakt på sak. Domaren C. Shannon Bacon frågade Aarons rakt ut om han överhuvudtaget följde nyheterna, med tanke på hur ofta AI-”hallucinationer” i rättsliga handlingar har hamnat på förstasidorna, och antydde att han antingen hade ignorerat fenomenet eller vårdslöst satsat på sin klients mål. Aarons, som har varit verksam som advokat i över fyra decennier, medgav sin egen ”dumhet” och tillade att han felaktigt hade antagit att programvaran skulle producera en tillförlitlig sammanfattning.

Utöver tillrättavisningen ålade domstolen honom en böter på 5 000 dollar, som ska betalas till en fond för klienters skydd, och hänsköt ärendet till delstatens disciplinnämnd för advokater. Fallet följer flera andra fall där advokater har ställts inför sanktioner eller disciplinära utredningar efter att ha lämnat in overifierat AI-genererat material i domstol (1, 2, 3).