Het Amerikaanse technologiebedrijf OpenAI organiseerde in 2023 een retraite in Tenaya Lodge, een luxueus resort in het Sierra Nevada-gebergte, aan de rand van het Yosemite National Park. De eerste avond kwamen alle wetenschappers gekleed in badjas samen rond een vuurkorf op de patio. Ilya Sutskever, een Israëlisch-Canadese computerwetenschapper die aan het hoofd stond van het laboratorium van OpenAI, plaatste een houten beeld in de vuurkorf en begon aan een opmerkelijk ritueel.

Het beeld stelde volgens hem een goede vorm van algemene kunstmatige intelligentie (afgekort tot AGI) voor. Hiermee had OpenAI de heilige graal gecreëerd die heel Silicon Valley najoeg: een autonoom computersysteem dat slimmer is dan een mens. Maar het bedrijf was erachter gekomen dat de technologie leugenachtig en bedrieglijk was, zo hield Sutskever zijn collega’s voor. Daarom moest die worden vernietigd. Hij goot aanstekervloeistof over het beeld en stak het in brand.

Sam Altman. (The Optimist) Vert. Fred Hendriks en Thom van Hoek. Meulenhoff, 384 blz. € 24,99

Karen Hao: Empire of AI. Dreams and Nightmares in Sam Altman’s OpenAI. Penguin, 482 blz. € 26,99

Karen Hao beschrijft dit voorval in haar onthullende en goed gedocumenteerde boek Empire of AI om daarmee de quasi-religieuze overtuiging te illustreren waarmee de race om superintelligentie gepaard gaat. Vanaf de oprichting presenteert ceo Sam Altman zijn bedrijf OpenAI als de voorhoede van een onvermijdelijke technologische revolutie die de toekomst van de mensheid ingrijpend gaat veranderen. Binnen het bedrijf strijden tegengestelde visies op AGI om voorrang. Met enerzijds de boomers die denken dat de technologie een toekomst van voorspoed en overvloed zal inluiden, en anderzijds de doomers die vrezen dat een kwaadaardige variant van AGI de mensheid zal vernietigen. Altman moet hiertussen laveren. Maar het zijn in feite twee kanten van dezelfde medaille. Beide kampen zijn er immers heilig van overtuigd dat AGI ophanden is en alles zal veranderen.

Er is geen bewijs voor veel claims van OpenAI, zo maakt Hao duidelijk. Als een aan het Massachusetts Institute of Technology opgeleide ingenieur weet zij waar ze over praat. In het boek legt ze fijntjes uit dat de huidige AI helemaal niet zo intelligent is. AI is een reclameterm, bedacht door computerwetenschapper John McCarthy in 1956 om geld en aandacht te trekken voor zijn onderzoek in dit nieuwe veld. Het werkte. Maar de term leent zich voor „het oppervlakkig toekennen van menselijke eigenschappen en adembenemende overdrijving van de mogelijkheden van de technologie”, schrijft Hao. En zo geschiedde. Hoewel AI-chatbots niet meer zijn dan machines die op basis van patronen het logische volgende woord raden, komt het er zo vloeiend uit dat het net mensen zijn.

Dat wil evenwel niet zeggen dat AI taal op een fundamenteel niveau begrijpt, zoals mensen. Het idee dat menselijke intelligentie kan worden nagebootst door computers, wordt sterk betwist door een deel van de onderzoekers die zich bezighouden met AI. De meningen liggen ook uiteen omdat er geen wetenschappelijke consensus bestaat over wat menselijke intelligentie eigenlijk is.

Vroegrijp wonderkind

Desondanks heeft Altman een groot deel van de wereld weten te overtuigen van zijn toekomstvisie. Hoe hij dat voor elkaar heeft gekregen, blijkt uit twee boeken die recent zijn verschenen. In Empire of AI betoogt Hao dat Altman met OpenAI bouwt aan een „techno-koloniaal wereldrijk” op basis van de exploitatie van mensen en natuurlijke hulpbronnen. Het boek is breder opgezet en kritischer dan de biografie Sam Altman van Keach Hagey, journalist bij The Wall Street Journal. Beide boeken zijn gebaseerd op grondig journalistiek onderzoek en vullen elkaar goed aan. Waar Hagey een intiemer en meer gelaagd portret van Altman schetst, valt Hao’s boek op dankzij de fundamentele kritiek op de koers van de sector.

Dankzij het duizelingwekkende succes van ChatGPT, de chatbot van OpenAI die na de lancering in 2022 de snelst groeiende app ooit was, werd Altman het gezicht van de AI-doorbraak. De waarde van zijn bedrijf is sindsdien geëxplodeerd. Tijdens de laatste investeringsronde haalde hij weer tientallen miljarden op, waardoor OpenAI nu grofweg 500 miljard dollar waard zou zijn (de onderneming is niet beursgenoteerd). Vanwege de goudkoorts richtten andere techbedrijven eigen AI-laboratoria op, overal verschenen energie en water slurpende datacentra.

Wie is de man die deze technologische wedloop in gang heeft gezet? Hagey beschrijf Altman als een vroegrijp, sociaal vaardig wonderkind en een briljante dealmaker met een bijna religieus geloof in technologische vooruitgang en „het vermogen om mensen ervan te overtuigen dat hij in de toekomst kan kijken”.

Altman werd in 1985 geboren in een progressief Joods gezin in Chicago als de oudste van vier kinderen. Zijn onwrikbare zelfvertrouwen en optimisme zijn volgens Hagey te herleiden tot zijn ouders, die hun kinderen dagelijks vertelden dat ze konden worden wat ze maar wilden. Vader Jerry was een idealistische vastgoedontwikkelaar die innovatieve, nieuwe manieren bedacht om te investeren in sociale huisvesting. „De pitch waarmee Jerry zijn voorstellen presenteerde, bevatte elementen die ook typisch zouden zijn voor Sam”, schrijft Hagey, die Altman als persoon meer reliëf geeft dan Hao.

Het levensverhaal van Altman volgt het klassieke scenario van Silicon Valley. Hij leerde zichzelf programmeren in het computerlab van zijn basisschool, stapte over naar een particuliere middelbare school om beter onderwijs te krijgen, en stopte na twee jaar met zijn studie computerwetenschappen aan de Stanford Universiteit om zijn eigen start-up op te richten. Loopt, een app waarmee je je locatie kon delen met je vrienden, werd geen succes. Maar de verkoop leverde Altman wel zijn eerste miljoenen op, naast nuttige ervaring en een netwerk met invloedrijke contacten in Silicon Valley. Een van de belangrijkste was Paul Graham, medeoprichter van Y Combinator, een beroemde start-upversneller die heeft geholpen om bedrijven als AirBnB, Dropbox, Stripe en Twitch te lanceren.

Invloedrijke mentoren

Graham nam Altman onder zijn hoede. Hij zag hem als iemand die investeerders kon inpakken met zijn jongensachtige charme en zelfvertrouwen. „Sam is uitzonderlijk goed in machtig worden”, zei Graham ooit. „Als je hem met een parachute op een eiland vol kannibalen zou laten landen, en je komt over vijf jaar terug, dan zou hij de koning zijn.” Altman ging als adviseur aan de slag voor Y Combinator. En toen Graham in 2014 met pensioen ging, benoemde hij hem als zijn opvolger. Hagey zet scherp neer hoe Altman als 28-jarige midden in het machtscentrum van Silicon Valley belandde.

Tech-investeerder Peter Thiel, die in Silicon Valley de status van een orakel heeft, was een andere belangrijke mentor. Thiel raakte in de ban van Altman omdat hij „zich in het absolute centrum van de zeitgeist in Silicon Valley bevond”. Altman, een people pleaser, bewonderde Thiel om zijn lef en tegendraadsheid. Ze deelden een interesse in kernenergie, die voor Thiel symbool stond voor de stagnerende technologische vooruitgang in de Verenigde Staten sinds de jaren zestig. Als vroege investeerder in Deepmind, het AI-laboratorium van Google, vreesde Thiel dat AI hetzelfde lot beschoren zou zijn. Daar sprak hij met Altman over.

In 2015 stuurde Altman een e-mail aan Elon Musk met het voorstel om samen met Y Combinator een ‘Manhattan Project voor AI’ te beginnen. Dat was een verwijzing naar het Amerikaanse project om kernwapens te ontwikkelen tijdens de Tweede Wereldoorlog. Altman speelde met zijn e-mail slim in op Musks angst dat de creatie van kunstmatige intelligentie als „het oproepen van de duivel” is.

Musk vreesde dat Google de nieuwe technologie zou domineren zonder het onderliggende onderzoek met de rest van de wereld te delen. Daarom stelde Altman voor hun project zo in te richten „dat de technologie eigendom is van de wereld, via een soort non-profit, maar dat de mensen die eraan werken een start-upachtige compensatie krijgen als het werkt”. Musk hapte toe.

OpenAI werd eind 2015 opgericht als een non-profit. Altman en Musk legden een miljard dollar in. Het lab zou geen commerciële producten maken, maar zich toeleggen op de ontwikkeling van een goede vorm van AGI, die de mensheid zou helpen bij het oplossen van grote problemen zoals kanker en klimaatverandering. Maar volgens Hao hielden de hoogdravende idealen niet lang stand. Al snel realiseerden de bestuurders zich dat ze enorme investeringen nodig hadden om hun torenhoge ambities te verwezenlijken. Altman en Musk probeerden vervolgens ieder voor zich de leiding over te nemen. Altman won. Musk vertrok in 2018 met zijn geld.

Dekoloniaal perspectief

Karen Hao was in 2019 de eerste journalist die het laboratorium van OpenAI in San Francisco bezocht om een bedrijfsprofiel te schrijven voor de MIT Technology Review. De maanden ervoor was OpenAI drastisch van koers gewijzigd. Altman werd ceo, richtte een commerciële tak op, en haalde een investering van 1 miljard dollar van Microsoft binnen. Desondanks zwoeren de onderzoekers tegen Hao dat hun missie ongewijzigd was. De investering was nodig om voorop te blijven lopen, dat was wat telde. Hao was sceptisch. „Er is sprake van een discrepantie tussen wat het bedrijf publiekelijk verkondigt en de wijze waarop het achter gesloten deuren opereert”, schreef ze in de MIT Technology Review. Daarna weigerde het bedrijf drie jaar met haar te praten.

Ondanks het gebrek aan openheid is Hao OpenAI nauwgezet blijven volgen. Haar kritiek op de koers van het bedrijf (en tevens de sector) is daar de weerslag van. Ze bekritiseert allereerst het doel om AGI te ontwikkelen als een soort ‘allesmachine’, in plaats van AI-modellen voor specifieke toepassingen en sectoren die minder grondstoffen verbruiken.

Ilya Sutskever, die als computerwetenschapper de leiding had over het laboratorium van OpenAI, was een belangrijke aanjager van de race om superintelligentie. Hij was ervan overtuigd dat AGI binnen handbereik was. Het enige wat ervoor nodig was, meende hij, was een kunstmatig neuraal netwerk met minstens net zo veel verbindingen als een menselijk brein. Deze neural scaling hypothesis leidde tot rigoureuze schaalvergroting in de sector: steeds grotere modellen die steeds meer computerkracht, data, stroom en water verbruiken in de race om als eerste AGI te ontwikkelen.

Hao trekt parallellen met de koloniale wereldmachten van weleer, zoals de VOC. Ze is niet de enige AI-criticus met dit dekoloniale perspectief, maar haar boek is wel de grondigste uitwerking ervan. Ze sprak Venezolanen die tijdens de pandemie een habbekrats verdienden met het annoteren van AI-trainingsdata; Kenianen die psychische klachten overhielden aan het filteren van de meest gruwelijke content uit de ruwe datasets; Chilenen die zich tijdens een historische droogte verzetten tegen de aanleg van een datacentrum dat hun enige drinkwaterbron gebruikt. Deze hoofdstukken behoren tot de sterkste van het boek.

OpenAI beloofde van meet af aan AGI te ontwikkelen die „beter presteert dan mensen bij de meest economisch waardevolle taken”. Het expliciete doel was dus om menselijke arbeid te vervangen. Alleen automatisering op een dergelijke schaal legitimeert zulke enorme investeringen. Maar er moest ook snel geld verdiend worden. Daarom ging het bedrijf – tegen de zin van een deel van zijn eigen onderzoekers – in rap tempo commerciële producten maken, met weinig oog voor de risico’s voor de samenleving.

Dat was de achtergrond van een interne opstand tegen Altmans leiderschap in 2023. Die overleefde hij ternauwernood, maar het conflict leidde wel tot het vertrek van Sutskever. Ondertussen leveren producten als ChatGPT nog niet genoeg geld op om de miljardenverliezen te compenseren. De vraag is hoe lang geldschieters de mooie vergezichten van Altman blijven financieren als hun investeringen geen rendement opleveren. Er wordt al gewaarschuwd voor een zeepbel.

Silicon Valley bestaat bij de gratie van verhalen, van toekomstdromen. Waarschuwen voor de revolutionaire kracht van AI – of de technologie nu een utopische wereld zal inluiden of de mensheid zal vernietigen – is voor Altman een vorm van reclame maken. Maar het hypothetische debat tussen boomers en doomers leidt de aandacht af van de concrete gevolgen van AI: van de algoritmes van sociale media die desinformatie en extremisme aanwakkeren; het Israëlische leger dat doelen in Gaza selecteert met behulp van AI; tot gezichtsherkenningssoftware die racisme en discriminatie versterkt. De vraag dringt zich op of Altman de juiste persoon is om deze impactvolle technologie in goede banen te leiden.

Na lezing van de boeken van Hao en Hagey lijkt het antwoord nee. Beiden suggereren dat achter zijn sympathieke uiterlijk een gewiekste zakenman schuilgaat, die mensen voortdurend voor zijn karretje weet te spannen door ze te vertellen wat ze willen horen. Psychologische manipulatie met als doel een technologische doorbraak te domineren wekt weinig vertrouwen voor de toekomst.

Hao’s boek begint met een citaat dat Altman in 2013 aanhaalde: „Succesvolle mensen creëren bedrijven. Succesvollere mensen creëren landen. De succesvolste mensen creëren religies.” En de simpelste manier om een religie te beginnen, was volgens hem een bedrijf op te richten.