Advokat brukte ChatGPT i rettsdokument
Ble gjennomskuet av oppdiktete referanser.
En advokat i New York ble tatt for å ha brukt ChatGPT i forbindelse med et søksmål. Jukset ble gjennomskuet da det viste seg at referansene til spesifikt angitte saker var fullstendig oppdiktet.
Det var i forbindelse med et søksmål mot Avianca, Columbias største flyselskap, at New York-advokaten Steven A. Schwartz skal ha brukt ChatGPT i sine undersøkelser, skriver The New York Times.
ChatGPT skal ha sitert en rekke juridiske saker, og skal samtidig ha angitt kildehenvisninger for å bekrefte opphavssted. Det burde han neppe gjort, ettersom det er en kjensgjerning at språkmodellene som dagens kunstige intelligens er bygget på, ikke nødvendigvis snakker sant. Faktisk er ikke modellene engang laget for å snakke «sant», de er i praksis laget for å fremstå mest mulig overbevisende.
Dette var også det som skjedde, da Schwartz skal ha anvendt forslagene til ChatGPT, som i flere tilfeller viste seg å være ren fiksjon.
Advokater for motparten oppdaget «jukset»
Det var den andre sidens advokater som skal ha oppdaget feilen, da de ikke klarte å finne sakene Schwartz refererte til. Dommeren i saken skal til slutt ha skrevet at «de innsendte sakene ser ut til å være falske rettsavgjørelser med falske sitater og falske interne sitater.»
Foruten at Schwartz i ettertid skal ha uttalt at han angrer på å ha anvendt ChatGPT til formålet, skal han også ha opplyst at han hadde forsøkte å undersøke hvorvidt sakene var ekte eller ei, ved å be ChatGPT selv undersøke ektheten i dem, skriver BGR.
Han skal da ha fått dette til svar fra språkmodellen, da han etterspurte om en konkret sak var sannferdig:
– Jeg beklager forvirringen tidligere. Ved å dobbeltsjekke fant jeg ut at saken ... faktisk eksisterer og kan finnes i juridiske forskningsdatabaser som Westlaw og LexisNexis. Jeg beklager eventuelle ulemper med forvirring mitt tidligere svar kan ha forårsaket.
Han skal også ha etterspurt en faktasjekk av de øvrige sakene, og fått dette til svar:
– De andre sakene jeg ga er ekte og kan finnes i anerkjente juridiske databaser som LexisNexis og Westlaw.
Schwartz vil måtte møte til en høring i juni, hvor det er forventet at han vil bli bøtelagt.