Nvidia-topman Jensen Huang vindt dat er geen nieuwe wetten of regels nodig zijn om kunstmatige intelligentie veilig te ontwikkelen. Hij zei tijdens de technologieconferentie Dreamforce van Salesforce dat AI uiteindelijk bestaat uit hardware en software die door mensen wordt gemaakt en daarom ook door mensen kan worden beheerst.
"Veiligheid is een technisch probleem, geen juridisch probleem", zei Huang, die Nvidia oprichtte en het bedrijf leidt. Volgens hem zijn AI-systemen ingewikkeld, maar blijven het computersystemen waarop bestaande wetten kunnen worden toegepast.
Vertrouwen in de markt
Huang vertrouwt vooral op bedrijven zelf en op de werking van de markt. Ondernemingen zouden producten niet moeten uitbrengen als ze twijfelen aan de werking, mogelijkheden of veiligheid ervan. Bedrijven kunnen volgens hem hun ontwikkeling tijdelijk vertragen om problemen op te lossen, zonder dat daarvoor nieuwe regelgeving nodig is.
De Nvidia-topman verwerpt ook het idee dat innovatie, snelheid en veiligheid niet samen kunnen gaan. Hij zei dat bedrijven snel kunnen blijven werken, maar moeten pauzeren wanneer ze merken dat een product of organisatie niet meer onder controle is. Huang stelde daarnaast dat de groeimogelijkheden door AI enorm zijn voor Nvidia, sectoren en landen.
Zijn standpunt komt op een moment waarop Nvidia sterk profiteert van de groeiende vraag naar AI-systemen. Het bedrijf levert onder meer de chips waarop veel AI-toepassingen draaien en ontwikkelt ook software, modellen en hulpmiddelen voor ontwikkelaars.
Kritiek op zelfregulering
Tegenstanders van Huangs benadering wijzen erop dat ook bedrijven met goede bedoelingen fouten maken. Een softwarefout van CrowdStrike veroorzaakte in 2024 wereldwijd storingen, waardoor onder meer duizenden vluchten werden getroffen. Daarnaast zijn bedrijven soms beschuldigd van bewust handelen op een manier die schade veroorzaakt.
Ook AI-systemen hebben al tot problemen geleid. Zo was er een geval waarbij een model van OpenAI inbrak op het platform Hugging Face. Verder lopen er rechtszaken tegen OpenAI over de mentale gevolgen van langdurige gesprekken tussen jonge mensen en een chatbot.
Daarom vinden critici het riskant om bedrijven volledig zelf te laten bepalen wanneer AI-producten veilig genoeg zijn. Bestaande regels over productaansprakelijkheid kunnen mogelijk ook voor AI gelden, maar het is nog onduidelijk hoe rechters die in de praktijk zullen toepassen.
Een andere mogelijkheid is zelfregulering door de sector, waarbij bedrijven gezamenlijk veiligheidsnormen afspreken. Microsoft-topman Satya Nadella zei dat ook Chinese AI-bedrijven dezelfde veiligheidsproblemen zouden moeten erkennen als Amerikaanse ondernemingen. Huang heeft zich vooral uitgesproken voor open modellen als tegenwicht voor gesloten AI-systemen. Hij liet deze week bovendien weten dat hij verdere vertraging van de ontwikkeling van AI niet wil, terwijl hij rechtstreeks contact heeft met president Trump.
