Angst voor artificiële intelligentie

Sam Altman, CEO van OpenAI: 'Vroeg of laat zullen we iets ontdekken dat ons de stuipen op het lijf jaagt'

Jef Poortmans, redacteur bij Trends, 15-09-2023

Sam Altman, de oprichter en CEO van OpenAI, het bedrijf achter ChatGPT, deelde in een panelgesprek dat Trends bijwoonde zijn ervaringen en verwachtingen over artificiële intelligentie. Het bleek een verhaal van hoop en angst. Stel u voor, een CEO die angstig naar zijn eigen product kijkt. Daar scheelt toch iets aan (zowel de CEO als het product)? Waarom laten we die man los rondlopen?

Het jaarlijkse congres Dreamforce van het softwarebedrijf Salesforce staat dit jaar in het teken van artificiële intelligentie (AI). "Dit is officieel het grootste AI-event dat ooit is georganiseerd", klopte Salesforce-CEO Marc Benioff zich op de borst in zijn openingsspeech.

Een van de bijzondere gasten op het congres was Sam Altman, de oprichter en CEO van OpenAI, het bedrijf boven ChatGPT, de AI-chatbot die de huidige AI-hetze op gang heeft getrokken. Altman deelde zijn ervaringen, bedenkingen en verwachtingen rond de huidige AI-ontwikkelingen.

De rit is nog niet gereden

Na de lancering van ChatGPT eind vorig jaar ging Altman op wereldreis om het AI-evangelie (het is een kwestie van geloof, een nieuwe religie …??) verder te verspreiden. Dat gaf hem een goed zicht op welke landen het verst staan op het wereldwijde AI-speelveld. "Heel de AI-ontwikkeling is een wereldwijde inspanning waar alle landen hun rol in hebben, maar de Verenigde Staten staan daarin zonder twijfel het verst. Het land is de onbetwistbare leider in de ontwikkeling ervan", vertelde de OpenAI-topman. Pluim op zijn hoed, zelf gestoken.

Uit het verhaal van Altman valt op hoe pril AI nog is (oeps? en nu al zoveel problemen…). Tot voor kort wist de CEO zelf nog niet of het überhaupt potten zou breken (en weet hij dat nu wel?). Op de vraag wat voor hem de grootste verrassing is geweest in al de tijd dat hij met ChatGPT bezig is, was zijn antwoord droog: "Dat het gewoon allemaal werkt (het is misschien een kwestie van toeval?). Het was pas bij de lancering van GPT-2 in 2019 dat we pas echt doorhadden dat het ergens naartoe zou gaan." De OpenAI-chatbot draait momenteel op de GPT4-versie en het bedrijf is volop aan het werken aan GPT5. Wie weet wat ze onderweg allemaal hebben uitgespookt om het ergens naartoe te laten gaan.

Maar wat in de ogen van Altman slechts een schoorvoetend begin is, ervaren de meesten al als revolutionair. Iedereen die er al mee gewerkt heeft, is onder de indruk van ChatGPT, maar volgens Altman is dit nog maar het begin. De grootste inschattingsfout die mensen over AI kunnen begaan, is denken dat het grootste deel van de rit al gereden is. "De meeste mensen mispakken zich aan de exponentiële groei van de technologie", zei Altman. Voorbarige extrapolatie; het is intussen wel duidelijk dat onbegrensde groei niet bestaat. "Ze denken dat die vroeg of laat zal afvlakken en kunnen zich niet indenken dat die zal blijven groeien. Iedereen moet inzien dat wat ze nu voor onmogelijk houden, binnen afzienbare tijd toch mogelijk zal zijn." Zegt Altman, die tot voor kort nog niet wist of het ergens heen zou gaan, en nu angst heeft. Echt, man…

Regels hoeven niet meteen perfect te zijn

De huidige AI-golf draait rond zogenoemde generatieve capaciteiten: de vaardigheid om nieuwe tekst of beelden te vormen op basis van patronen die een AI ontdekt heeft door bestaande data te absorberen. Een volgende stap in de ontwikkeling waar Altman zich aan verwacht (out of the blue?), is dat AI-systemen redeneervermogen opbouwen. Als dát geen voorbarige extrapolatie is, sluit ik mijn blog. ChatGPT werkt nu met massa's data, berekeningen, algoritmen en misschien zelfs toevalsgeneratoren, en ik begrijp dat daar mooie dingen mee kunnen gerealiseerd worden. Redeneren is nog wel een stap verder. En wat met drogredenen? "De impact zal enorm zijn van AI-modellen die nieuwe wetenschappelijke kennis genereren met een snelheid die we nu niet voor mogelijk houden", zei Altman. En dat is wéér een stap verder; er is immers nog een groot verschil tussen een conclusie en nieuwe kennis. Altman in zevenmijlslaarzen (!). "Zo zal in één jaar tijd evenveel wetenschap geproduceerd worden als in de hele menselijke geschiedenis." Ik zal mijn blog niet moeten sluiten; het wordt boeken toe voor de hele wereld.

Verder zal AI, net zoals het internet, in alle lagen van het leven van mensen en bedrijven binnensijpelen. De hemel sta ons bij. Ook dat besef is volgens Altman nog onvoldoende aanwezig. "Mensen kunnen zich nog niet inbeelden dat in alle producten en diensten de een of andere vorm van intelligentie ingebouwd zal worden, net zoals alle producten en diensten ondertussen ook op de een of andere manier een onlinetak hebben", stelde hij. Zou hij wel willen, ja. En wat brengt dat ons? Een hoop ICT-ellende.

De verwachtingen van de neoliberale economie zijn hooggespannen over wat dat voor de productiviteit van mensen (!!) en bedrijven kan betekenen (en dus voor het genereren van rijkdom), maar op dat gebied predikte Altman gek genoeg de weg van de geleidelijkheid. "Programmeurs die ChatGPT gebruiken, laten er nu bijvoorbeeld 25 procent van hun programmeercode door schrijven. Dat zal in de komende jaren een steeds groter deel worden, tot AI uiteindelijk bijna alle code zelf schrijft", schetst hij als voorbeeld. Schertst hij, zeker? Een systeem dat zelf code schrijft vanuit het niets vereist superintelligentie, dus dat sluit ik uit (zie ook Artificiële intelligentie). Er moet dus al een specificatie bestaan in een vorm die in code kan omgezet worden, allicht op basis van bouwblokken. Nu zijn er al decennia lang pogingen gedaan om te programmeren met herbruikbare bouwblokken (zie code reuse), en dat is nog nooit blijven plakken; AI gaat daar dus geen verschil maken. Bovendien zijn informatici altijd al sterk geweest in het veiligstellen van hun markt, met behulp van verschillende programmeertalen, ontwikkelmethoden, geïntegreerde ontwikkelomgevingen e.d.; die gaan zich de kaas niet van hun brood laten halen.

'Angstaanjagend? Voorlopig niets'

Regel- en wetgeving is ook een van de dingen die de groei van AI zouden kunnen afremmen. 't Is te hopen. Altmans advies aan beleidsmakers is niet vooraf te mikken op het perfecte regelgevende pakket dat AI in al zijn facetten beteugelt, maar er gewoonweg aan te beginnen en gaandeweg bij te sturen of uit te breiden. M.a.w. de markt volgen, en zeker niet proactief kromme ontwikkelingen belemmeren. "Er moet een regelgevend raamwerk komen dat de korte- en langetermijnuitdagingen rond AI aanpakt (en geld vrijmaakt om de nadelen te bestrijden?), zelfs al is dat van bij aanvang niet volmaakt", stelde hij. Ook typisch voor de sector: wat van bij aanvang niet volmaakt is raakt zelden nog gecorrigeerd; de volgende versie zal het oplossen. Ze zitten al aan GPT-5. "En er moet een nieuw overheidsagentschap komen dat specifiek over AI-beleid gaat." Hij wil een overheid die alle poorten open zet.

De AI-scene heeft ook zijn portie doemdenkers en onheilsprofeten, maar voor Altman is dat niet aan de orde. Nog niet op dit moment althans. Op de vraag wat hij tot hiertoe het meest angstaanjagend vindt, antwoordde hij: "Niets. Maar vroeg of laat zullen we iets ontdekken dat ons echt de stuipen op het lijf jaagt. Dat zit eraan te komen." Zegt de man die tot voor kort nog niet wist of het ergens heen zou gaan, en nu angst heeft. Ik kan mij niet ontdoen van de indruk dat Altman verdomd goed weet welk gedrocht hij op de wereld heeft losgelaten. Dat een week geleden de Amerikaanse Senaat achter gesloten deuren over regulering van AI vergaderde met toplui van Tesla, Meta, OpenAI, Google en Microsoft wijst m.i. ook in die richting. De techbazen willen de politiek mee in het bad trekken om te vermijden dat generatieve AI wordt verboden. Moet er nog zand zijn?