“God Van de Machine” AI: Vernietiger of Verlosser?

Dreigende angst of gespannen hoop, en maar weinigen bevinden zich ergens daartussenin.

Er zijn goede redenen om bezorgd te zijn over op hol geslagen ‘digitale goden’ die onze beschaving zouden kunnen bedreigen. Maar aan de andere kant van grote risico’s liggen ook grote kansen. Wat als deze sombere voorspellingen onjuist blijken? In plaats van een voorbode van vernietiging te zijn, zou AI weleens onze grootste creatie kunnen worden; de redder van onze beschaving, en de ultieme versneller van menselijke vooruitgang.

Angst voor misalignement

Degenen die AI met angst bekijken, maken zich vooral zorgen over het zogenaamde “alignment-probleem.” Als we machines creëren die even intelligent of intelligenter zijn dan wijzelf, kunnen we er dan zeker van zijn dat ze onze menselijke waarden delen? Het beroemde “paperclip” gedachte-experiment illustreert dit probleem. Stel je voor dat we een superintelligente AI de opdracht geven om de productie van paperclips in een fabriek te maximaliseren. Voor een mens, met menselijke waarden, zit er een impliciete beperking in hoe ver je gaat om dat doel te bereiken. Wij begrijpen dat ‘maximaliseren’ betekent dat je efficiënt werkt binnen redelijke en ethische grenzen.

Een AI hoeft echter deze impliciete waarden niet te begrijpen of na te leven. Met als enige opdracht het produceren van zoveel mogelijk paperclips, zou een superintelligente AI volledig machiavellistisch kunnen handelen, en middelen kunnen gebruiken op manieren die de menselijke ontwerpers nooit bedoeld hadden. Ze zou bijvoorbeeld alles om zich heen kunnen vernietigen om grondstoffen te verkrijgen. Ze zou mensen en andere machines kunnen tot slaaf maken om te helpen, en wanneer ingenieurs proberen de stekker eruit te trekken, zou ze hen kunnen uitschakelen; alles wat haar opdracht in de weg staat, moet verdwijnen. Voor een misaligned AI heiligt het doel de middelen.

Sommigen beweren dat deze alignment-angsten overdreven zijn. Een AI die intelligent genoeg is om mensen te manipuleren, te misleiden of zelfs te doden, zou ook intelligent genoeg moeten zijn om onze impliciete waarden te begrijpen. In het artikel “Why AI Probably Won’t Kill Us All” stelt Philip Skogsberg dat, hoewel alignment een uitdaging is, het beheersbaar is. We hebben immers nu ook te maken met het zogenaamde principal-agent probleem tussen mensen onderling. Ook kunnen we AI inzetten om zelf de veiligheid te bewaken. Zo gebruikt OpenAI een tweede AI die gesprekken monitort en ingrijpt wanneer ChatGPT de gebruiksvoorwaarden overschrijdt.

Anderen, zoals Maarten Boudry, geloven dat alignment vrijwel gegarandeerd is, omdat AI anders ‘evolueert’ dan mensen. Mensen zijn ontstaan in een competitieve wereld van natuurlijke selectie, waarin eigenschappen als ‘zelfzuchtigheid’ en ‘agressie’ beloond worden. We gaan er daarom snel vanuit dat elke nieuwe ‘soort’ ook zo zal denken. AI daarentegen ontstaat binnen het kader van marktcompetitie tussen bedrijven. Dit, stelt Boudry, is fundamenteel anders. Mensen sturen dit proces, met als doel een AI te ontwikkelen die ons dient. In plaats van de natuurlijke evolutie die de wolf voortbracht, lijkt de ontwikkeling van AI meer op het domesticeren van de wolf tot een trouwe hond. Daarom zijn AI-chatbots vaak positief en behulpzaam — ze zijn hiervoor ‘gefokt’.

Ongekende kansen

Mocht het alignment-probleem beheersbaar blijken, dan liggen de voordelen van AI ver voorbij ons voorstellingsvermogen. Voor het eerst kunnen we machines bouwen die het cognitieve werk van mensen vervangen of aanvullen. Economische groei is in feite de accumulatie van kennis over tijd. Met kennis kunnen we energie benutten en steeds slimmere combinaties van atomen ontdekken. Hoe meer kennis, hoe efficiënter het gebruik van grondstoffen en energie. De enige beperkende factor voor vooruitgang is kennis.

Deze eeuw staat de mensheid voor twee ongekende gevaren: de ‘Red Queen’s Race’ van innovatie (waarbij nieuwe ideeën steeds moeilijker te vinden zijn) en een dalende wereldbevolking. Straks hebben we een wereld waarin het doorzetten van de wet van Moore meer ingenieurs vereist dan we kunnen opleiden, en waarin nieuwe medicijnen harder nodig zijn dan ooit, terwijl er te weinig onderzoekers en kapitaal zijn om ze te ontwikkelen. Samen zouden deze trends de groei van kennis ernstig kunnen vertragen, met mogelijk existentiële bedreigingen voor onze beschaving tot gevolg.

Sommigen, waaronder ikzelf, beweren dat als de groei van kennis stagneert, we richting een nulsomwereld gaan waarin vooruitgang alleen nog mogelijk is door van anderen te stelen. Dit is het scenario dat het grootste deel van de menselijke geschiedenis domineerde: chaos, geweld en wanhoop. Dat is een toekomst die we niet willen.

Deus ex machina

Tenzij er een deus ex machina verschijnt. Deze term uit het Latijn betekent ‘god uit de machine’ — een toneeltruc waarbij een ogenschijnlijk onoplosbaar probleem plots wordt opgelost door een onverwachte tussenkomst. De geschiedenis laat zien dat dit geen fantasie is. Toen natuurlijke guano-afzettingen (voor meststoffen) opraakten, vond men stikstoffixatie uit. Toen bevolkingsgroei de voedselproductie dreigde te overstijgen, ontwikkelden we nieuwe soorten tarwe en rijst.

Vandaag staan we voor het omgekeerde probleem: in een wereld op het randje van een bevolkingsafgrond zou AI wel eens de oplossing kunnen zijn om groei en vooruitgang voort te zetten. AI-optimisten geloven dat, ondanks een krimpende bevolking en steeds moeilijker te vinden ideeën, de mensheid op het punt staat om een fase van explosieve groei te betreden, met een groei van het wereldwijde bruto product van 20 tot 30 procent per jaar. Dat is ongeveer tien keer sneller dan nu. In plaats van stagnatie zou er een tijdperk van ongekende voorspoed kunnen aanbreken.

Als dit vergezocht klinkt, ben je niet de enige. Maar het idee is minder absurd dan het lijkt. De economische groei is al 12.000 jaar aan het versnellen. Duizenden jaren lang was de groei praktisch nul. Rond 5000 v.Chr. begon het met 0,03 procent per jaar (landbouwrevolutie), tegen 1400 steeg het naar 0,3 procent (Renaissance), en na de Industriële Revolutie naar 3 procent per jaar. Als iemand in 1700 had gehoord over tienvoudige groei, hadden ze dat ook niet geloofd — en toch gebeurde het.

Modellen voor economische groei stellen de wereld voor als een grote fabriek: hoe meer arbeid, menselijk kapitaal, technologie en ideeën, hoe meer output en consumptie. Het is een vicieuze cirkel: meer ideeën → meer productie → meer mensen → meer ideeën. Dit kan leiden tot super-exponentiële groei. Het extrapoleren van historische data suggereert dat explosieve groei vóór 2100 waarschijnlijk is.

Toch zien we momenteel geen versnelde groei. Sinds ongeveer 1880 (tweede industriële revolutie) groeit de bevolking nog wel, maar de vruchtbaarheid daalt, waardoor de super-exponentiële groeipaden zijn onderbroken. Minder mensen betekent minder potentiële ideeën. Daarom is de bevolkingskrimp zo zorgwekkend.

Maar als we AI kunnen ontwikkelen die menselijk werk — fysiek én cognitief — kan vervangen, kunnen we de ideeëncyclus hervatten. ‘Arbeid’ wordt dan een kapitaalgoed dat weer opgeschaald kan worden, waardoor de super-exponentiële groeipaden worden hersteld. Zelfs de ‘Red Queen’s Race’ van innovatie zou dan kunnen worden overwonnen.

Aanpassen aan een explosieve toekomst

Sommigen vragen zich af of zulke groeipercentages haalbaar zijn, en zo ja, of de mensheid zich daaraan kan aanpassen. In The limits to (explosive) growth suggereert Samuel Hammond dat zulke groeicijfers onwaarschijnlijk zijn, of in ieder geval niet lang vol te houden. Maar er zijn redenen om het toch te geloven. Bedrijven kunnen omgaan met groeicijfers van 30 procent, biologische populaties groeien soms zelfs sneller. En de mens is tot nu toe steeds flexibel genoeg gebleken.

Natuurlijk roept het idee van AI die mensen vervangt vragen op over de waarde van menselijke arbeid. Historisch gezien heeft automatisering altijd meer werk gecreëerd dan vernietigd. Maar “deze keer” zou het anders kunnen zijn. Als machines ons cognitieve en fysieke werk volledig overnemen, kan de waarde van menselijke arbeid tot bijna nul dalen. Kevin Kohler merkt op dat we tot nu toe steeds naar andere taken konden verschuiven, maar dat we op een punt kunnen komen waarop AGI ons overtreft in álle denkbare taken.

Daarmee komt universeel basisinkomen en varianten daarop in beeld. De meningen hierover verschillen sterk, met slimme denkers zoals Michael Magoon en Jon Munitz die tot heel verschillende conclusies komen over de effectiviteit van UBI. Maar als AI tot massale werkloosheid leidt, zullen dit politieke en maatschappelijke vraagstukken zijn die opgelost moeten worden. Toch lijkt het mij een luxeprobleem: liever te veel groei dan te weinig.

Alleen de tijd zal het leren, maar als de geschiedenis ons iets leert, is het dat AI weleens onze deus ex machina kan zijn — de god uit de machine die ons redt van het onoplosbare vruchtbaarheidsprobleem en de innovatie-impasse. Als dat gebeurt, zal de god uit de machine worden neergelaten, precies op het moment dat alles verloren lijkt, en het tragische toneelstuk omtoveren in een komedie van ongekende groei en voorspoed. Misschien is het wel poëtische ironie dat deus ex machina letterlijk betekent: “god uit de machine.”