Az Új-Mexikói Legfelsőbb Bíróság 5000 dolláros bírságot szabott ki egy ügyvédre, aki a ChatGPT segítségével készített, de ellenőrizetlen és kitalált információkat tartalmazó beadványt nyújtott be egy gyilkossági perben.
- Stephen Aarons ügyvéd a csevegőrobotra bízta a tárgyalási jegyzőkönyvek összefoglalását, majd ellenőrzés nélkül nyújtotta be az elkészült dokumentumot a bíróságra.
- A dokumentum nem létező tanúkat és hamis tanúvallomásokat tartalmazott, emellett valódi tanúk szájába adott olyan kijelentéseket, amelyeket azok sosem mondtak.
- A bíróság a mulasztást a bíróság megsértésének minősítette: a bíró szerint Aarons vagy figyelmen kívül hagyta az AI-hallucinációk kockázatait, vagy meggondolatlanul kockáztatta ügyfele ügyét.
- A több mint negyvenéves szakmai múlttal rendelkező jogász elismerte a hibáját, és ostobaságnak nevezte, hogy ellenőrzés nélkül megbízott a szoftverben.
- Az 5000 dolláros bírságot egy ügyfélvédelmi alapba kell befizetnie, ügyét pedig az állami ügyvédi fegyelmi bizottság elé utalták; az eset az ellenőrizetlen AI-tartalom jogi és etikai kockázataira figyelmeztet.
