De Canadese advocaat Mary Hyun-Sook Lee is voor zes maanden geschorst wegens het gebruik van door kunstmatige intelligentie verzonnen rechtbankdocumenten. De tuchtraad legde haar daarnaast een boete op van 10.000 Canadese dollar, omgerekend ruim 6000 euro.
Lee gebruikte in 2025 in een erfrechtszaak uitspraken die niet bleken te bestaan. Zij verwees zowel in schriftelijke stukken als tijdens een zitting naar deze zaken. Een andere aangehaalde uitspraak had geen betrekking op de kwestie, terwijl bij een bestaande zaak de door Lee genoemde uitkomst onjuist was.
Niet-bestaande assistent
De rechter vroeg Lee om bewijs voor de aangehaalde documenten. Toen zij dat niet kon overleggen, erkende zij dat AI de stukken had gegenereerd. Ze verklaarde aanvankelijk dat een rechtenstudent die haar assisteerde hiervoor verantwoordelijk was.
Lee zei dat zij zelf weinig wist van ChatGPT en zichzelf als iemand van de oude stempel zag. Een toezichthouder voor advocaten startte vervolgens een onderzoek en vroeg haar naar de identiteit van de student. Nadat Lee die naam eerst niet wilde noemen, gaf zij toe dat zij tijdens de zaak geen assistenten of stagiairs in dienst had.
Opnieuw ChatGPT gebruikt
Tijdens de voorbereiding van de tuchtzaak gebruikte Lee opnieuw ChatGPT. Uit zoekgegevens op haar computer, die de tuchtraad had opgevraagd, bleek dat zij de chatbot raadpleegde voor een gesprek met de rechter in de oorspronkelijke erfrechtszaak.
In een vraag aan ChatGPT schreef zij dat zij zich had gebaseerd op niet-bestaande bronnen en wilde zij weten hoe zij zich kon voorbereiden om een tuchtzaak te voorkomen. De tuchtraad betrok ook dit gebruik van AI bij de beoordeling van haar handelen.
De zaak geldt waarschijnlijk als de eerste openbare uitspraak van een Canadese tuchtraad over onjuist gebruik van AI door een advocaat. Ook in andere landen zijn advocaten aangesproken op het indienen van juridische stukken met verzonnen verwijzingen. In Nederland kregen meerdere advocaten eerder waarschuwingen en moesten zij een cursus volgen na verkeerd gebruik van AI.
