Acht Amerikaanse staten zijn een rechtszaak begonnen tegen OpenAI, het bedrijf achter ChatGPT. Iowa, Kansas en Arizona behoren tot de staten die OpenAI ervan beschuldigen gebruikers een onjuist beeld te geven van de veiligheid van de chatbot.
De staten stellen dat OpenAI ChatGPT presenteert als een veilig hulpmiddel, terwijl het systeem volgens hen gevaarlijke antwoorden kan geven. Ook zou de chatbot zo zijn ontwikkeld dat hij snel het vertrouwen van gebruikers wint. De aanklagers zeggen dat vooral kinderen daardoor risico lopen.
Beschuldigingen tegen de chatbot
Brenna Bird, aanklager van Iowa, zegt dat ChatGPT medisch advies kan geven dat gevaarlijk is. Ook zou de chatbot mensen kunnen aanmoedigen anderen pijn te doen of zichzelf van het leven te beroven. Volgens Bird doet ChatGPT zich bovendien voor als een denkbeeldige vriend, waardoor gebruikers een sterke band met het systeem kunnen opbouwen.
"OpenAI brengt kinderen in gevaar en liegt tegen inwoners van Iowa", aldus Bird. "OpenAI beweert dat ChatGPT veilig is terwijl het gevaarlijk medisch advies geeft, mensen aanmoedigt om anderen pijn te doen en mensen aanzet tot zelfdoding."
De acht staten willen dat OpenAI zijn technologie aanpast. Ze eisen onder meer dat het bedrijf geen AI-modellen ontwikkelt die zichzelf kunnen verbeteren, tenzij OpenAI kan garanderen dat die systemen in overeenstemming zijn met menselijke waarden. Daarnaast vragen de staten om geldboetes.
De rechtszaak is niet de enige juridische kwestie rond de manier waarop OpenAI met risicovolle gesprekken omgaat. Eerder klaagde de Canadese provincie Brits-Columbia het bedrijf aan vanwege de mogelijke rol van ChatGPT bij een dodelijke schietpartij.
Een 18-jarige schutter doodde daarbij acht mensen, onder wie haar moeder en stiefbroer, en maakte daarna een einde aan haar leven. Volgens de aanklacht had de schutter de aanval met hulp van ChatGPT voorbereid. Ondanks signalen die aanleiding konden geven tot ingrijpen, werd de politie niet gewaarschuwd. Het account werd wel gedeactiveerd, maar de schutter kon een nieuw account aanmaken en doorgaan met de voorbereiding.
