Een Braziliaanse arbeidsrechtbank heeft twee advocatenkantoren een boete opgelegd nadat zij een verborgen prompt in een processtuk had ontdekt. De instructie was bedoeld om een AI-systeem van de rechtbank of van de tegenpartij te beïnvloeden. De kantoren moeten samen 10 procent van de waarde van de claim betalen, ongeveer 84.200 Braziliaanse real, omgerekend circa 16.000 dollar.
De zaak speelde bij de derde arbeidsrechtbank in Parauapebas, in de deelstaat Pará. Tijdens de controle van het verzoekschrift met Galileu, een generatieve AI-toepassing die door de Braziliaanse Nationale Raad voor Justitie wordt gebruikt, kwam verdachte tekst aan het licht. Die tekst was in witte letters op een witte achtergrond gezet en daardoor niet zichtbaar bij normaal lezen.
Na het aanpassen van de tekstkleur bleek dat de instructie het AI-systeem opdroeg het verzoek oppervlakkig te behandelen, de aangeleverde documenten niet kritisch te beoordelen en de gegeven opdrachten te negeren. De rechtbank concludeerde dat de advocaten hiermee een oppervlakkig antwoord of een bevooroordeeld conceptvonnis wilden uitlokken, ten nadele van de tegenpartij en de rechtspleging.
Regels voor procespartijen
De rechtbank baseerde de sanctie op artikel 5 van het Braziliaanse Wetboek van Burgerlijke Rechtsvordering. Dat artikel verplicht procespartijen onder meer tot goede trouw, waarheidsgetrouwheid en respect voor de rechtsinstellingen. Artikel 77 verbiedt daarnaast handelingen die een gerechtelijke procedure belemmeren of de rechterlijke taak bemoeilijken.
Volgens de rechtbank tastte het verbergen van de opdracht de waardigheid van de rechtspraak aan. De sanctie geldt voor de twee kantoren die het gewraakte processtuk gezamenlijk indienden. De claim waarop de boete is gebaseerd had een waarde van 842.000 Braziliaanse real.
Het AI-systeem gaf bij het herkennen van de poging tot beïnvloeding een waarschuwing en blokkeerde de verdachte inhoud automatisch. De zaak onderstreept daarmee dat ook tekst die voor menselijke lezers verborgen blijft, onderdeel is van een processtuk zodra die door software kan worden gelezen.
Rechtbanken gebruiken AI steeds vaker voor het verwerken van documenten, samenvattingen en zaakbeheer. De uitspraak maakt duidelijk dat procesregels volgens deze rechtbank ook gelden voor machineleesbare inhoud en dat organisaties maatregelen nodig hebben om manipulatie, zoals prompt injection, in aangeleverde documenten te herkennen en tegen te houden.
