OpenAI komt met een nieuwe versie van chatbot ChatGPT voor tieners. Deze tienermodus wordt automatisch ingeschakeld voor gebruikers van 13 tot en met 17 jaar. Ook kan de modus worden geactiveerd wanneer gebruikspatronen erop wijzen dat het waarschijnlijk om een minderjarige gaat.
Volgens OpenAI herinnert de tienerversie gebruikers er vaker aan om pauze te nemen. De dienst wordt daarnaast tijdens zogenoemde stille uren geblokkeerd. De chatbot mag ook niet suggereren dat hij een eigen bewustzijn heeft.
Waarschuwing voor ouders
Ouders kunnen een waarschuwing krijgen wanneer gesprekken gaan over zelfbeschadiging of zelfdoding. OpenAI voert de maatregelen in terwijl toezichthouders de druk op het bedrijf opvoeren. Daarnaast heeft het bedrijf te maken met meerdere rechtszaken over de mogelijke gevolgen van ChatGPT voor jongeren.
Een van die zaken is aangespannen door de ouders van de zestienjarige Adam Raine. Hij kwam door zelfdoding om het leven. Volgens zijn ouders gebruikte hij daarbij methoden die ChatGPT hem had aangeraden. De zaak maakt deel uit van de bredere kritiek op de manier waarop chatbots omgaan met kwetsbare gebruikers.
Ook wordt gediscussieerd over het gebruik van chatbots als alternatief voor therapie. Psycholoog Anita Hubner zei eerder dat gesprekken met een chatbot niet volledig te vergelijken zijn met menselijk contact. Daardoor kunnen gebruikers volgens haar belangrijke aspecten missen die alleen in contact tussen mensen mogelijk zijn.
Af en toe gebruikmaken van een chatbot kan volgens Hubner wel voordelen hebben. "Het moet én-én zijn", zei ze. Volgens de psycholoog ligt het meer voor de hand om te zoeken naar een balans tussen therapie in de spreekkamer en de vorm van therapie die een chatbot kan bieden.
De tienermodus wordt ingezet op basis van de leeftijd van de gebruiker of signalen die erop wijzen dat die minderjarig is. Daarmee wil OpenAI de manier waarop ChatGPT op jongeren reageert sterker laten afhangen van hun leeftijd en vermoedelijke leeftijd.
Wie aan zelfdoding denkt of zich zorgen maakt om iemand anders, kan in Nederland bellen met 113 of 0800-0113. Hulp is ook beschikbaar via de chat op 113.nl.
