De Canadese provincie British Columbia heeft in Californië een rechtszaak aangespannen tegen OpenAI. De provincie houdt het bedrijf mede verantwoordelijk voor de dodelijke schietpartij op een school in Tumbler Ridge, afgelopen februari.
Bij de aanval kwamen acht mensen om het leven. De 18-jarige dader, Jesse Van Rootselaar, pleegde daarna zelfmoord. Volgens de aanklager had de schietpartij mogelijk kunnen worden voorkomen als OpenAI de politie had ingelicht over de gesprekken die aan de aanval voorafgingen.
Waarschuwingen bij OpenAI
Het veiligheidsteam van OpenAI had gesprekken van Van Rootselaar opgemerkt vanwege berichten over wapengeweld. Het bedrijf schakelde de politie niet in, maar deactiveerde wel het account. Daarna maakte Van Rootselaar een nieuw account aan en ging diegene door met de voorbereidingen.
De provincie eist dat OpenAI zijn beleid aanpast voor gesprekken waarin gebruikers mogelijk geweld plannen. Daarbij gaat het onder meer om de manier waarop waarschuwingen worden beoordeeld en wanneer informatie aan de politie wordt doorgegeven.
Minister van Justitie Niki Sharma zegt dat inwoners van Tumbler Ridge erop moeten kunnen vertrouwen dat geloofwaardige dreigingen serieus worden genomen. Volgens Sharma heeft OpenAI tot nu toe geen betekenisvolle stappen gezet om de veiligheidsmaatregelen aan te scherpen.
Meer rechtszaken tegen OpenAI
Ook meer dan dertig familieleden van slachtoffers hebben OpenAI aangeklaagd. Zij verwijten het bedrijf eveneens dat het een mogelijkheid om de schietpartij te voorkomen heeft laten liggen.
De zaak in British Columbia volgt op een rechtszaak van de Amerikaanse staat Florida. Die staat klaagde OpenAI in juni aan vanwege de veiligheidsrisico's van ChatGPT. Florida stelt dat het bedrijf een te rooskleurig beeld van de veiligheid van de chatbot heeft gegeven.
In die zaak beschuldigt de staat OpenAI ervan kinderen te hebben geschaad. ChatGPT zou informatie hebben verstrekt aan schoolschutters, advies hebben gegeven over zelfbeschadiging en jonge gebruikers afhankelijk hebben gemaakt van het platform.
