Het is moeilijk om de conclusie te vermijden dat de markt kunstmatige intelligentie en aanverwante industrieën zijn overmatig opgeblazen. In 2025 vertegenwoordigden slechts vijf hyperscalers – Alphabet, Meta, Microsoft, Amazon en Oracle – een kapitaalinvestering van 399 miljard dollardie de komende jaren zal oplopen tot ruim 600 miljard dollar per jaar. In de eerste negen maanden van vorig jaar was de reële bbp-groei in de Verenigde Staten hetzelfde 2,1%maar zonder de bijdrage van AI-investeringen zou het 1,5% zijn geweest.
Deze verslaving is gevaarlijk. Een recente nota van Deutsche Bank roept de vraag op of dit voordeel daadwerkelijk een voordeel zou kunnen zijn belwijzend op de ongekende concentratie van de sector, die nu ongeveer 35% van de totale Amerikaanse marktkapitalisatie vertegenwoordigt, waarbij de top 10 Amerikaanse bedrijven meer dan 20% van de mondiale aandelenmarktwaarde voor hun rekening nemen. Als een dergelijke investering geen voordelen zou opleveren, zou het een mislukking van ongekende omvang zijn.
In die van hen boek Macht en vooruitgangNobelprijswinnende economen Daron Acemoglu en Simon Johnson vertellen over de rampzalige mislukking van het Franse Panamakanaalproject aan het einde van de 19e eeuw. Duizenden investeerders, groot en klein, verloren hun fortuin en 20.000 mensen die aan het project werkten, stierven zonder enig voordeel. Het probleem, zo schrijven Acemoglu en Simon, was dat de visie op vooruitgang niet iedereen omvatte, en dat het onvermogen om feedback van anderen op te nemen resulteerde in besluitvorming van slechte kwaliteit. Zoals zij opmerken: “wat u met de technologie doet, hangt af van de richting van de vooruitgang die u in kaart probeert te brengen en wat u als acceptabele kosten beschouwt.”
Na 150 jaar is een aanzienlijk deel van de Amerikaanse economie op dezelfde manier afhankelijk van een kleine kring van grote visionairs, ambitieuze investeerders en techno-optimisten. Hun vermogen om critici te negeren en degenen die de kosten van hun missie moeten dragen buitenspel te zetten, riskeert catastrofale gevolgen. Betrouwbare AI-systemen kunnen niet worden opgeroepen marketing magie. We moeten ervoor zorgen dat degenen die deze systemen bouwen, implementeren en ermee werken, inspraak kunnen hebben in de manier waarop we de vooruitgang van deze technologie sturen.
Wantrouwen en algemeen gebrek aan optimisme
Uit de gegevens blijkt dat er dringend een nieuwe koers moet worden uitgezet. Zelfs een genereuze analyse van de markt voor generatieve AI-producten zou waarschijnlijk moeite hebben om aan te tonen hoe een fatsoenlijk rendement op de enorme kapitaalinvestering realistisch is. A recent rapport van MIT ontdekte dat ondanks 30 tot 40 miljard dollar aan bedrijfsinvesteringen in GenAI, 95% van de organisaties geen enkel rendement boekt. Het is moeilijk voor te stellen dat een andere industrie zoveel kapitaal ophaalt, terwijl er zo weinig geproduceerd wordt. Maar dit lijkt de echte superkracht van Sam Altman te zijn, net als Brian Merchant uitgebreid gedocumenteerd.
Daarbij komt nog een aanzienlijk wantrouwen en een algemeen gebrek aan optimisme onder gewone mensen over het potentieel van deze technologie. Uit het meest uitgebreide mondiale onderzoek onder 48.000 mensen in 47 landen blijkt KPMG ontdekte dat 54% van de respondenten huiverig is om AI te vertrouwen. Ze willen ook meer regulering: 70% van de respondenten is van mening dat regulering noodzakelijk is, maar slechts 43% is van mening dat de huidige wetten adequaat zijn. Het rapport concludeert dat de meest veelbelovende weg naar het verbeteren van het vertrouwen in AI het versterken van waarborgen, regelgeving en wetten was om het veilige gebruik van AI te bevorderen.
Dit staat uiteraard in schril contrast met het standpunt van de regering-Trump, die herhaaldelijk de regulering van de industrie heeft geformuleerd als een obstakel voor innovatie. Maar het tekort aan vertrouwen kan niet zomaar worden geëlimineerd met reclame. Het vormt een aanzienlijke structurele barrière voor de adoptie en succesvolle verspreiding van opkomende technologieën.
Een van de belangrijkste conclusies van het MIT-rapport is dat de kleine groep bedrijven dit daadwerkelijk heeft gezien productiviteit de voordelen van generatieve AI-producten deden dit omdat ze “adaptieve, geïntegreerde systemen bouwen die leren van feedback.” Sterk gecentraliseerde inkoopbeslissingen hadden er waarschijnlijk toe geleid dat werknemers standaardproducten gebruikten die niet geschikt waren voor de zakelijke omgeving en resultaten genereerden die werknemers niet vertrouwden, vooral bij taken die veel op het spel stonden, wat resulteerde in tijdelijke oplossingen of een afnemende bezettingsgraad. Het probleem is dat deze tools er niet in slagen om te leren en zich niet aan te passen. Op zijn beurt zijn er te weinig mogelijkheden voor managers om dergelijke feedback te ontvangen of deze op zinvolle wijze te integreren in de ontwikkeling en aanpassing van modellen.
Het verhaal dat door politici en mediacommentatoren wordt verspreid dat de AI-sector vol visionaire leiders zit, wijst onbedoeld op een van de belangrijkste oorzaken van het falen van deze producten. Vertrouwen in AI-systemen kan alleen worden verdiend als er feedback wordt gezocht en ernaar wordt gehandeld, wat een aanzienlijke uitdaging vormt voor hyperscalers omdat hun fundamentele modellen minder goed in staat zijn zich aan te passen aan en te reageren op unieke en gevarieerde contexten. Tenzij we de ontwikkeling en het beheer van dit alles decentraliseren, kunnen de voordelen ongrijpbaar blijven.
Het standpunt van de arbeiders
Er bestaan nuttige ideeën die kunnen helpen een ander pad van technologische vooruitgang te bewandelen. Het Human Technology Institute van de Technische Universiteit van Sydney gepubliceerd onderzoek over hoe werknemers worden behandeld als onzichtbare toeschouwers bij de implementatie van AI-systemen. Door middel van diepgaande, kwalitatieve consultaties met verpleegkundigen, winkelpersoneel en ambtenaren om feedback te vragen over geautomatiseerde systemen en hun impact op hun werk.
In plaats van een achterlijke of nutteloze houding ten opzichte van AI te tonen, hebben werknemers genuanceerde en constructieve bijdragen geleverd aan de impact op hun werkplekken. Werknemers in de detailhandel spraken bijvoorbeeld over de problemen van geautomatiseerde systemen die werknemers de macht ontnemen en hun discretie beperken: “In tegenstelling tot een productielijn is de detailhandel een onvoorspelbare omgeving. Er zijn dingen die klanten worden genoemd en die een gestage stroom in de weg staan.”
Een verpleegkundige merkte op hoe “de toenemende implementatie van geautomatiseerde systemen en alarmen ernstige alarmmoeheid onder verpleegkundigen veroorzaakt. Als er een alarm (van het AI-systeem) klinkt, hebben we de neiging dit te negeren of niet serieus te nemen. Of we ondernemen onmiddellijk actie om het alarm te stoppen.”
Je zou kunnen denken dat grotere investeringen in dergelijke systemen het probleem van alarmmoeheid zouden aanpakken. Maar zonder de inbreng van de werknemers is het gemakkelijk om dit niet als een probleem te zien. Het resultaat is dat, zoals een overheidsfunctionaris het uitdrukte, op werkplekken waar kanalen voor feedback van werknemers ontbreken, een noodzakelijke kwaliteit van werknemers “het geschenk van de oplossing” was.
Traditioneel zou dit soort overleg en betrokkenheid plaatsvinden via werknemersorganisaties. Maar nu het percentage vakbondsleden in de Verenigde Staten onder de 10% daalt, wordt dit niet alleen een probleem voor werknemers, maar ook voor werkgevers, die weinig manieren overhouden om op grote schaal betekenisvol met hun personeel om te gaan.
Sommige vakbonden lopen echter voorop in deze kwestie en kunnen, bij gebrek aan politiek leiderschap, de beste hoop bieden om verandering teweeg te brengen. De AFL-CIO heeft een veelbelovende modelwet ontwikkeld om werknemers tegen te beschermen kwaadaardige kunstmatige intelligentiesystemen. Het voorstel richt zich op het beperken van het gebruik van werknemersgegevens om modellen te trainen, en op het introduceren van obstakels bij het automatiseren van zinvolle beslissingen, zoals aannemen en schieten. Het benadrukt ook dat werknemers het recht moeten krijgen om te weigeren de richtlijnen van AI-systemen op te volgen, waardoor in feite feedbackloops worden gecreëerd voor wanneer de automatisering misgaat. Het recht om te weigeren is een essentiële garantie die ook een cultuur van kritische betrokkenheid bij technologie kan cultiveren en als basis voor vertrouwen kan dienen.
Bedrijven mogen de mening van werknemers negeren, maar werknemers kunnen zich uiteindelijk op andere manieren uiten. Uit recente onderzoeken blijkt dat 31% van de werknemers dit toegeeft actief saboteren de AI-strategie van hun bedrijf, en voor jongere werknemers zijn de cijfers zelfs nog hoger. Zelfs bedrijven die geen feedback van werknemers vragen, lopen nog steeds het risico deze toch te ontvangen.
Onze huidige koers van technologische vooruitgang is gebaseerd op een bekrompen visie op expertise en stelt te veel vertrouwen in een beperkt aantal zeer grote bedrijven. We moeten gaan luisteren naar de mensen die elke dag met deze technologie werken om echte problemen op te lossen. Deze decentralisatie van macht is een noodzakelijke stap als we willen dat technologie betrouwbaar en effectief is.
