A.I. en emoties

In Trends verscheen een kritisch artikel over AI. Een verademing, tussen al die technologieliteratuur die AI de hemel in prijst. De auteur trekt de lijn door, de wolken voorbij, en ziet een religie ontstaan, om die vervolgens terecht te relativeren, en ons weer met de voeten op de grond te zetten. Hij lijkt echter niet te zien dat die grond in feite slijk is, nl. het slijk der aarde.

AI-ondernemers handelen emotioneel en nemen hun wensen voor werkelijkheid

Trends, Pedro Matthynssens, columnist, 29-12-2023

AI-ondernemers geloven dat AI de mensheid zal redden of vernietigen. Hun ideologie wordt eerder een religie. Terwijl de realiteit van AI veel prozaïscher is, stelt Pedro Matthynssens. "Prozaïsch" betekent volgens Van Dale "niet verheven, alledaags". "Niet verheven" staat inderdaad in contrast met religie, en met het geloof dat AI de mensheid zal redden. Sterke opening. In de religieuze sfeer blijvend zou ik de door de techsector gedreven proliferatie van generatieve AI echter bestempelen als satanisch, eerder dan als alledaags; zie andere artikelen over Artificiële intelligentie.

Het was bruut wakker worden op 8 december. Plots galmde (?) de kunstmatige stem van wijlen premier Jean-Luc Dehaene door de boxen van mijn radio (grote woonkamer…). Wat later was zijn verrijzenis (inderdaad religie :-) ook te zien in een politiek campagnefilmpje (CD&V; logisch…). Een week eerder had het sprekende hologram van de in 2004 overleden sjeik Zayed bin Nahyan al de klimaatconferentie in Dubai geopend. En Hugo en zijn grote liefde Nicole werden dankzij AI onlangs weer even herenigd op het podium. Wat we met behulp van artificiële intelligentie (AI) kunnen realiseren, overtreft al enige tijd de verbeelding. OK; dat zal allicht nog verder gaan.

Met de nieuwe AI Act stelt de Europese Commissie sinds kort paal en perk aan de schending van privacy en het misbruik van gegevens voor machinelearning. AI evolueert weliswaar zo snel dat we riskeren voorbij te gaan aan de ideologische basis (huh?). Wat drijft de believers die die AI-tools bouwen? Dat is van fundamenteel belang om te begrijpen wat er in Silicon Valley en bij uitbreiding in de rest van de wereld momenteel gebeurt. AI, toch de generatieve AI, is inderdaad snel geëvolueerd, omdat er een hoop geld tegenaan is gesmeten, en eigendomsrechten van data in de cloud massaal zijn genegeerd, en dat betekent dat er ook een hoop geld mee te verdienen valt. Een ideologische basis heb ik daar nooit achter gezocht; ik denk dat geld de drijvende kracht is.

AI-ondernemers als Peter Thiel, Elon Musk en Marc Andreessen, die deze ontwikkelingen vooruit stuwen, zijn allemaal transhumanisten (de bedoelde ideologie?). Ze geloven dat de menselijke intelligentie niet de hoogste vorm van intelligentie is. Menselijke intelligentie is een moeilijk onderwerp. Mensen bouwen volop machines die in staat zijn te leren. OK. Die geleerde machines (van kúnnen leren naar geleerd zijn is wel een héél grote stap) produceren nieuwe data die op hun beurt machines opleiden die uiteindelijk slimmer dan de mens zullen worden. Dat is tenminste wat die transhumanisten geloven (of zeggen te geloven). Maar hier ontbreken een paar belangrijke aspecten. (1) Rommel in is rommel uit. Als je domme systemen zichzelf laat ontwikkelen op basis van data met fouten, dan zullen de fouten zich uiteraard verspreiden. Naar verluidt volstaan een vijftal cycli van hergebruik om alle online informatie onbetrouwbaar te maken; zie Vrees voor robo-inteelt of Model Autophagy Disorder. (2) Wat is het doel? Je moet nog altijd een mens zijn om een doel te kiezen. Als een machine al een doel nastreeft is dat doel er wel door een mens in gestoken; een machine die haar doel vanzelf wijzigt slaat op hol. Ze werken met een enorme computerkracht (met de bijbehorende warmteproductie) aan de ultieme schaalvergroting van AI zoals we die nu kennen. Hun droom is de biologie te verslaan en onze menselijke hersenen op te laden naar de containers van computersystemen. Musk doet al pogingen met Neuralink; het is nog onduidelijk of hij menselijke denkkracht wil benutten (lijkt mij in veel gevallen geen goed idee), of ze net wil vervangen (!) door computerkracht, om ons om te vormen tot cyborgs. Net zoals we gegevens in de cloud opslaan (hadden we beter niet gedaan; nu zitten we met die generatieve AI opgescheept). Dan kunnen we later zonder verpinken de stekker weer insteken en Jean-Luc Dehaene, sjeik Zayed bin Nahyan of Nicole, inclusief hun hersenen, tot leven wekken. Als we dat zouden willen. Je gaat zombiefilms in een ander licht zien…

Dat staat in schril contrast met de mening van AI-sceptici. Want die zijn er ook. Volgens hen begrijpt of denkt AI nog helemaal niets. Klopt. Oeps, ben ik een scepticus? AI heeft veel facetten, en dus zijn er ook veel soorten sceptici. Ik denk in elk geval dat begrip het zwarte gat van AI is. Zij noemen AI-systemen die vragen beantwoorden en teksten schrijven 'stochastische papegaaien'. Lijkt mij een bruikbare omschrijving. Dat het tegendeel nog altijd niet aangetoond werd, zegt volgens mij ook al veel. Het zijn machines die statistische patronen herkennen in grote hoeveelheden gegevens en die vervolgens reproduceren. Voilà. De systemen voorspellen wat er met de hoogste waarschijnlijkheid volgt op wat er in een tekst staat. Zo imiteert en herhaalt AI taal zonder de betekenis ervan te begrijpen. Een groot verschil met hoe mensen een taal leren. Een mens vat niet enkel de vorm maar ook de betekenis van wat er gezegd of geschreven wordt. Daardoor weet hij bijvoorbeeld niet alleen dat op het woord 'schril' in vele gevallen het woord 'contrast' volgt, maar weet hij effectief wat die woorden betekenen. Prima omschrijving.

Waar je ook van overtuigd bent, het zou hoe dan ook helpen om wat minder gefixeerd te zijn op intelligentie of het streven naar de singulariteit, namelijk het moment dat computers slimmer worden dan mensen. Wat singulariteit echt betekent vind je hier; in AI-termen krijgt het echter een specifieke betekenis. Dit vormt een vlag-en-ladingprobleem, omdat de (vroeger zeldzame) term snel zal gekoppeld worden aan A.I., wat niet terecht is. Wat de auteur wél voorstelt is dit: We moeten stoppen met antropomorf te denken over computers. (1) Antropomorfisme is het toekennen van menselijke eigenschappen aan niet-menselijke objecten. Daarmee stoppen is een waardevol streven, ter vermijding van nog meer vlag-en-ladingproblemen en bijbehorende misverstanden. (2) Merk op dat het Amerikaanse bedrijf Anthropic werkt aan algemene AI, gebaseerd op antropomorfisme. Een mens verplaatst zich sneller met een fiets of een auto dan met zijn benen. Of heft een zware last eenvoudiger met een kraan dan met de eigen armen. Zo kan een computer intussen sneller rekenen en beter schaken dan de mens. Vragen beantwoorden, beelden en muziek creëren, teksten sneller schrijven en vertalen behoren sinds kort ook in dat lijstje. Die onmenselijke intelligentie kan erg nuttig zijn. Vooral om taken uit handen te nemen van medewerkers, zodat ze meer tijd hebben voor andere activiteiten die meer waarde opleveren voor cliënten. (1) Ik vermoed dat de auteur bedoelt dat we het bij dat laatste moeten houden, en moeten wegblijven van antropomorfisme, maar hij zegt het niet. (2) Merk op dat hij het wel heeft over "meer tijd hebben om waarde op te leveren voor cliënten"; of een neoliberale visie minder erg is dan een antropomorfische weet ik nog niet zeker. (3) Jammer genoeg dient technologie meer en meer om menselijke inbreng te vervangen wegens te duur of te weinig kneedbaar. Marktdenken verdringt menselijkheid, volgens mij het meest kwalijke aspect van de AI-evolutie.

Maar wat is de grote valkuil voor AI-ondernemers? Ze handelen emotioneel en nemen hun wensen voor werkelijkheid. Ze zijn zo gehaast om nog tijdens hun leven algemene AI-systemen te bereiken die alles kunnen doen voor iedereen, in de hoop op die manier onsterfelijk te worden. Zo geloven ze in het existentiële belang van AI dat de mensheid zal redden of vernietigen. Hun ideologie wordt eerder een religie. Hun fictie wordt wetenschap. Terwijl de realiteit van AI veel prozaïscher is. (1) Ik vind dat de auteur er niet helemaal in slaagt om zijn punt te maken, omdat hij niet beschrijft hoe of waarom de AI-realiteit veel prozaïscher is. (2) Dat AI-ondernemers emotioneel handelen klopt ook niet per se. Er zijn er uiteraard wel die AI willen gaan gebruiken omdat anderen dat ook doen, op basis van FOMO, en dat is inderdaad emotioneel, maar de grote AI-machten worden gedreven door geld, en niet door emoties (of het zou een vorm van Superbia moeten zijn). De lancering van ChatGPT door OpenAI, november 2022, had vooral als doel de markt op te schudden en, op basis van FOMO, bedrijven aan te zetten tot investeringen, en daarmee de technologie te verankeren, ook al was en is nog altijd niet duidelijk dat de vele nadelen van LLM's ooit voldoende gaan opgelost worden om waardevol te worden of te blijven voor de maatschappij (zie ook ChatGPT: een kritische kijk op de gevaren). Het grote probleem met generatieve AI, dat nu trouwens al speelt, is dat individuen en bedrijven op een inderdaad religieuze manier gaan geloven in de onomstotelijke betrouwbaarheid ervan, vooraleer die bewezen is, met als gevolg dat nog meer rommel in onze systemen terechtkomt, waar ze opnieuw door AI wordt opgepikt, en de al bestaande rommel helemáál niet meer wordt opgelost. (3) De ICT-sector is er altijd al in geslaagd om kritiek op slecht werkende ICT-systemen vóór te blijven, door telkens nieuwe tools en methoden te ontwikkelen, en betere oplossingen te beloven. Dat generatieve AI datzelfde effect heeft was voor de techsector misschien niet het eerste doel, maar is toch maar mooi meegenomen.

Dus. Misschien zijn er wel AI-ondernemers die geloven dat AI de mensheid zal redden of vernietigen, maar religie of niet, ik blijf ongelovig. Bij de groten (Microsoft, FaceBook, Google en co) is geld en de bijbehorende macht het enige waar het om gaat. Voor wie dát niet gelooft :-), zie Global AI Moratorium. En voor sommigen worden wensen inderdaad werkelijkheid.