AI: sowieso ontwrichtend

Update: This article is now also available in English. Und jetzt auch auf Deutsch!

Iedereen buitelt over zichzelf heen om voorspellingen te doen over AI. Het gaat ons bevrijden van dom werk, het gaat ons onderwijs ontmantelen, we hoeven allemaal dingen niet meer te leren want de AI gaat het voor ons doen, criminelen zullen ons er mee bedonderen, boeven gaan er eindeloze hoeveelheden desinformatie mee maken, en de AI zal ontsnappen en in de echte wereld gevaarlijk worden. Wie weet.

Nou zijn voorspellingen lastig, zeker als het over de toekomst gaat. Ik heb zelf verkondigd dat iedereen die zich waagt aan ChatGPT prognoses zichzelf nu totaal belachelijk maakt.


5 december 2000. Any day now.

Want mensen zijn notoir slecht in de toekomst zien, zelfs al liggen alle feiten op tafel (en dat liggen ze meestal niet). Maar, nu is het mijn beurt mezelf belachelijk te maken met een voorspelling over AI.

Ik beperk me tot wat heel simpele scenario’s, waarbij noch mensen noch AI kwaadaardige plannen hoeven te hebben, en er toch dingen vreselijk mis gaan lopen.

Echt intelligent?

Er is veel discussie of ChatGPT & concurrenten nou ’echt intelligent’ zijn, en ook over dat ze nog te veel fouten maken. Sommige mensen beweren zelfs dat de AI bewustzijn heeft (en worden daarna door Google ontslagen). Dit zijn fascinerende discussies.

Het lijkt erop dat onze ervaring met de rekenmachine, die op alle manieren beter kan rekenen dan wij, het verwachtingsniveau voor AI wel erg hoog opgeschroefd heeft. Als ChatGPT niet je persoonlijke perfecte pocket Plato is stelt het kennelijk nog niks voor.

De discussie of AI nou echt intelligent is, wat dat ook moge betekenen, is geweldig voer voor filosofen. In de jaren 80 is dit al geheel uitgekauwd in het Chinese Room Argument: is een kamer die aan de hand van bergen papieren instructies vragen in het Chinees kan beantwoorden “intelligent”? Iedereen die nu opinioneert zou er goed aan doen die discussie nog eens terug te lezen, zodat je in ieder geval een nieuwe mening met ons kunt delen.

AI & de economie

Als een soort coping mechanism wordt er veel gejoeld over hoe specifiek ChatGPT niet goed is:

  1. Het ding is niet echt intelligent
  2. Het klopt niet altijd wat eruit komt, je moet het checken

Nou heb ik mogelijk verbazingwekkend nieuws. Het zal bedrijven een worst wezen dat dit zo is. Misschien is het ding niet intelligent, maar hij zeurt in ieder geval niet over werktijden, medezeggenschapsraden en dat het tocht op de derde verdieping.

Is AI goed genoeg om nu in te zetten? Heeft dat het bedrijfsleven ooit tegengehouden iets te proberen? Want dat is de crux: kan een AI-toepassing sollicitatiebrieven per honderd tegelijk redelijk beoordelen? Gebeurt nu met de hand ook al heel slecht namelijk, dus de AI is al snel beter.

Probleemdossiers opsporen voor verzekeraars? Moet nu al redelijk lukken. Klanten helpen met hun productvragen? Ik gok dat ChatGPT die een keer je handleidingen heeft gelezen het nu al beter doet dan je zo-goedkoop-mogelijke-helpdesk. En medisch advies voor als de huisarts(assistent) de komende weken geen tijd voor je heeft? Ik twijfel er niet over dat we het mee gaan maken.

Is dat allemaal goed? Nee – bedrijven zullen vermoedelijk te snel gaan. Bedrijven hebben namelijk geen wettelijke plicht na te denken over de sociale effecten van wat ze doen. Als het niet verboden is, dan mag het, en als het geld bespaart zullen ze het doen.

Overigens voor wie denkt “niemand zal toch belangrijke beslissingen aan matige AI overlaten”, de gemeente Rotterdam deed het al. En dat was dan nog een gemeente.

Wat kan er gebeuren op korte termijn

De grootste stappen met AI worden nu in China en Amerika gezet. Europa speelt een zeer bescheiden rol (al zijn veel van de uitvinders wel Europeanen, maar ze wonen nu in de US).

Het ligt voor de hand dat onze bedrijven in hoog tempo gepaaid zullen worden met AI-oplossingen die helpdesken overbodig zullen maken. Er zullen aanbiedingen komen om klantdossiers te scannen op risico-klanten, of juist klanten waar meer aandacht voor moet zijn.

Behalve enorme ontslagrondes onder specifieke beroepsgroepen zal dit ook leiden tot een alweer grotere stroom van onze priv├ęgegevens naar “de Cloud in Amerika”.

En daarna?

Steeds meer banen zullen min of meer even goed gedaan kunnen worden door computers. Dit is een heel onprettig vooruitzicht, en om onszelf wat moed in te spreken komen velen met het argument “hij zit er weleens naast”.

Maar heb je weleens met mensen gewerkt? Die hebben ook echt heel veel last van dat probleem.

De AI techniek zal ondertussen de komende jaren absoluut niet slechter worden. Het tempo van innovatie lijkt ook nog steeds toe te nemen – we zijn nog lang niet bij een “muur” aangekomen, zoals tijdens de AI-winter in de jaren 90.

Op termijn zal dit vrijwel zeker leiden tot grote economische ontwrichting – hoe gaan we er mee om als de computer in zulk hoog tempo zoveel van ons werk over kan nemen?

Maar dat ging tot nu toe toch altijd goed?

De industri├źle revolutie wordt vaak als succesvol voorbeeld genoemd, overigens uitsluitend door mensen die deze revolutie persoonlijk niet meegemaakt hebben. De uitkomst heeft ons veel gebracht, maar tijdens de revolutie waren de omstandigheden voor de nieuwe arbeiders afgrijselijk. Het heeft generaties gekost voor het vooruitgang was voor de meerderheid van de bevolking.

Dus voor iemand zegt dat het altijd wel weer goedgekomen is, kijk ook eens naar hoe lang dat duurde en hoe het in de tussentijd ging.

Ik zie veel mensen echt 100% aannemen dat dit ‘altijd goed komt’, maar ik help het je hopen. Het is niet gezegd dat we allemaal ‘prompt engineers’ en wandelcoaches kunnen worden.

Wat zouden we moeten doen dan?

Hele goeie vraag. Om te beginnen zou het helpen om te proberen te voorspellen welke sectoren van de economie vermoedelijk het eerst omgeploegd zullen worden. De bank Goldman Sachs heeft al een overzichtje gemaakt, als voorbeeld.

Er valt ook te denken aan het opstellen van beleid over collectieve ontslagvergunningen, mogelijk dat “vervangen door ChatGPT” daar voorlopig geen grond voor mag zijn (meer over hoe dit werkt).

Verder, als er dan nieuwe banen ontstaan, is het wel een goed idee dat die banen hier zijn. Je kan echter nu op je vingers natellen dat we de AI diensten waarmee we hele bevolkingsgroepen gaan ontslaan in gaan kopen in Amerika. In Europa zijn we namelijk direct begonnen met het strak reguleren van AI.

Ik ben echt een enorme fan van de EU (check de pet), maar ik weet ook hoe dit soort regelgeving afloopt: we handhaven hem voor onze eigen organisaties, maar laten Amerikaanse bedrijven hun gang gaan. Zie bijvoorbeeld dit leuke plaatje over de GDPR/AVG:


The Spice Girls (een band uit de jaren 90) leggen de GDPR uit

We innoveren toch al niet zo hard in Europa, en het ziet er voor AI ook niet zo goed uit.

Het zou daarom voor de hand liggen pragmatisch om te aan met het stukreguleren van AI om er in ieder geval voor te zorgen dat er nog een kans is dat we er hier ook werkgelegenheid mee gaan maken.

En wat als het nou wel uit de hand loopt?

In bovenstaand stukje ga ik uit van een AI zonder kwaadaardige bedoelingen, en kijk ik naar de economische effecten als bedrijven te verwachten dingen doen. Dit zijn relatief makkelijke voorspellingen.

Maar het is ook goed mogelijk dat er wel degelijk dingen echt mis gaan. Ik heb nu lang genoeg met Large Language Models gespeeld om te weten dat we niet weten wat die dingen intern aan het doen zijn. Ook al is het maar een algoritme, hij kan wel echt boos op je worden bijvoorbeeld. En een filosoof zou me kunnen vertellen dat getallen niet boos kunnen zijn, maar als je diezelfde getallen wel echte beslissingen laat nemen zijn die beslissingen wel ineens “boos”.

Dit is onlangs goed omschreven als de “Safe Uncertainty Fallacy”:

  1. De situatie is geheel onvoorspelbaar, en we hebben geen idee hoe het af gaat lopen
  2. Dus het zal wel ok zijn

Zo werkt het natuurlijk niet. Er is wel degelijk reden voor zorg.

Maar, ChatGPT is niet intelligent en het klopt niet altijd!

Ja snap ik – maar dat hoeft ook niet voor de bovenstaande scenario’s. We hebben al een enorm ontwrichtende situatie als AI voor sommige toepassingen goed genoeg of in ieder geval veel goedkoper is. En daar zullen we toch iets mee moeten.

En ik hoop dat we hier niet over gaan struisvogelen.