Het DeepMind Institute presenteert een reeks essays over de ontwikkeling van artificial general intelligence, een vorm van AI die uiteenlopende taken op menselijk niveau zou kunnen uitvoeren. De publicaties richten zich niet alleen op de technologie zelf, maar ook op de gevolgen voor economie, bestuur en samenleving.
In de introductie stellen Shane Legg, James Manyika en Demis Hassabis dat er dringend behoefte is aan onderzoek vanuit verschillende vakgebieden. Volgens hen kan AGI grote gevolgen hebben voor de mensheid. Daarom zouden technische ontwikkelingen moeten worden bestudeerd in samenhang met maatschappelijke en filosofische vragen.
Toezicht op redeneringen en economische gevolgen
Een van de essays gaat over de transparantie van AI-redeneringen. Rohin Shah en Anca Dragan bespreken daarin het analyseren van de zogenoemde chain of thought, de tussenstappen die een AI-systeem tijdens het oplossen van een probleem kan gebruiken. Zo'n inkijk zou kunnen helpen om mogelijk misleidend gedrag of plannen om toezicht te omzeilen op te merken. De auteurs pleiten ervoor die mogelijkheid tot controle open te houden.
Een andere bijdrage van Julian Jacobs en Alex Imas behandelt economisch beleid voor een periode waarin AI steeds geavanceerder en breder wordt ingezet. Zij beoordelen elf mogelijke maatregelen waarmee samenlevingen de economische ontwrichting door AI kunnen opvangen. Het essay gaat daarmee over beleid dat gevolgen voor werk, inkomen en economische machtsverhoudingen moet helpen beheersen.
Visie op de samenleving
Stephen Cave schrijft over een nieuwe vorm van utopisch denken. Zijn essay onderzoekt welke veranderingen mensen met AGI zouden moeten nastreven en verwijst daarbij naar de onrust van de twintigste eeuw. Hij bepleit een benadering die hoop combineert met bescheidenheid over de mogelijkheid om de samenleving volledig te sturen.
Het laatste essay is van Demis Hassabis en beschrijft een raamwerk voor frontier AI, de meest geavanceerde systemen die op een bepaald moment beschikbaar zijn. Het voorstel draait om een flexibele manier om de capaciteiten van zulke modellen te testen. Die aanpak moet innovatie mogelijk maken en tegelijk verantwoord gedrag stimuleren.
Het DeepMind Institute positioneert de publicaties als een plek voor discussie over AGI. De eerste reeks combineert technische onderwerpen met voorstellen voor beleid en ideeën over de inrichting van de samenleving.
