TDeze zomer moest ik vechten tegen het verkeer in de zinderende straten van Marseille. Op een kruispunt zei mijn vriend op de passagiersstoel dat ik rechtsaf moest slaan, richting een plek die bekend staat om zijn vissoep. Maar de Waze-navigatie-app vertelde ons dat we rechtdoor moesten gaan. Moe en omdat de Renault eruitzag als een sauna op wielen, volgde ik het advies van Waze op. Even later stonden we vast op een bouwplaats.
Een banaal moment misschien. Maar wel een die wellicht de bepalende vraag van onze tijd weergeeft, waarin technologie bijna elk aspect van ons leven raakt: wie vertrouwen we meer: andere mensen en onze instincten, of de machine?
De Duitse filosoof Immanuel Kant bekend als de Verlichting als “de opkomst van de mens uit zijn zelfopgelegde onvolwassenheid”. Onvolwassenheid, zo schreef hij, ‘is het onvermogen om je eigen inzicht te gebruiken zonder de leiding van een ander.’ Eeuwenlang was die ‘ander’ die het menselijk denken en leven leidde vaak de priester, monarch of feodale heer – degenen die beweerden op te treden als de stem van God op aarde. In hun pogingen om natuurverschijnselen te begrijpen – waarom vulkanen uitbarsten, waarom de seizoenen veranderen – hebben mensen zich tot God gewend voor antwoorden. Bij het vormgeven van de sociale wereld, van economie tot liefde, is religie onze gids geweest.
Mensen, zo betoogde Kant, hebben altijd het vermogen gehad om te redeneren. Ze hadden gewoon niet altijd het vertrouwen gehad om het te gebruiken. Maar met de Amerikaanse Revolutie en daarna de Franse Revolutie werd een nieuw tijdperk geboren: de rede zou het geloof vervangen en de menselijke geest, bevrijd van autoriteit, zou de motor van de vooruitgang en een meer morele wereld worden. “Weten voelt!” of “Heb de moed om je intellect te gebruiken!”, spoorde Kant zijn tijdgenoten aan.
Twee en een halve eeuw later zou je je kunnen afvragen of we stilletjes afglijden naar onvolwassenheid. Een app die ons vertelt welke route we moeten nemen, is één ding. Maar AI dreigt onze nieuwe ‘ander’ te worden – een stille autoriteit die onze gedachten en daden stuurt. We lopen het risico onze zwaarbevochten moed op te geven om voor onszelf te denken, en deze keer niet over goden of koningen, maar over de code.
ChatGPT werd nog maar drie jaar geleden gelanceerd en dit bleek al uit een wereldwijd onderzoek, gepubliceerd in april 82% van de respondenten heeft kunstmatige intelligentie gebruikt in de voorgaande zes maanden. Of ze nu besluiten een relatie te beëindigen of op wie ze moeten stemmen, mensen wenden zich tot machines voor advies. Volgens OpenAI, 73% van de gebruikersverzoeken gaan over onderwerpen die niets met werk te maken hebben. Nog intrigerender dan onze afhankelijkheid van AI-oordeel in het dagelijks leven, is wat er gebeurt als we het voor ons laten spreken. Schrijven is nu een van de meest voorkomende toepassingen van ChatGPT, na praktische verzoeken zoals doe-het-zelf- of kookadvies. De Amerikaanse auteur zei Joan Didion ooit: “Ik schrijf puur om erachter te komen wat ik denk.” Wat gebeurt er als we stoppen met schrijven? Stoppen we met het uitzoeken?
Het is verontrustend dat er aanwijzingen zijn dat het antwoord ja kan zijn. Een onderzoek aan het Massachusetts Institute of Technology maakte gebruik van elektro-encefalografie (EEG) om de ziekte te monitoren hersenactiviteit van essayschrijvers toegang krijgen tot kunstmatige intelligentie, zoekmachines zoals Google of helemaal niets. Degenen die op AI konden vertrouwen, vertoonden de laagste cognitieve activiteit en hadden moeite om hun werk nauwkeurig te citeren. Het meest zorgwekkende is misschien wel dat de deelnemers aan de AI-groep in de loop van een paar maanden steeds luier werden en hele blokken tekst in hun essays kopieerden.
De studie is klein en onvolmaakt, maar Kant zou het patroon hebben herkend. ‘Luiheid en lafheid’, schreef hij, ‘zijn de redenen waarom zo’n groot percentage van de mannen… hun hele leven onvolwassen blijven, en waarom het zo gemakkelijk is voor anderen om zichzelf op te dringen als hun voogden. Het is zo gemakkelijk om onvolwassen te zijn.’
De aantrekkingskracht van AI ligt uiteraard in het gemak ervan. Het bespaart tijd, moeite en, belangrijker nog, het biedt een nieuwe manier om verantwoordelijkheden te ontlasten. In zijn boek Escape from Freedom uit 1941 betoogde de Duitse psychoanalyticus Erich Fromm dat de opkomst van het fascisme gedeeltelijk verklaard kon worden door het feit dat mensen er de voorkeur aan gaven hun vrijheid op te geven in ruil voor de geruststellende zekerheid van ondergeschiktheid. Kunstmatige intelligentie biedt een nieuwe manier om de last van het zelf nadenken en beslissen op te geven.
De grootste aantrekkingskracht van kunstmatige intelligentie is dat het dingen kan die onze geest niet kan: oceanen aan gegevens doorzoeken en deze met een ongekende snelheid verwerken. Het zitten in de auto in Marseille was tenslotte de reden waarom ik ervoor koos om de auto te vertrouwen in plaats van mijn vriendin op de passagiersstoel (een beslissing die ze als een belediging opvatte). Omdat de app toegang heeft tot alle gegevens, moet hij toch beter weten – dat dacht ik tenminste.
Het probleem is dat Kunstmatige intelligentie is een zwarte doos. Het produceert kennis, maar zonder noodzakelijkerwijs het menselijk begrip te verdiepen. We weten niet echt hoe de AI tot haar conclusies komt – zelfs de programmeurs geven dit toe. Ook kunnen we zijn redenering niet verifiëren op basis van duidelijke en objectieve criteria. Dus als we het advies van kunstmatige intelligentie volgen, laten we ons niet leiden door de rede. We zijn weer terug op het terrein van het geloof. Bij twijfel pro machine: Vertrouw bij twijfel op de machine: dit zou ons toekomstige leidende principe kunnen worden.
Kunstmatige intelligentie kan een geduchte bondgenoot zijn voor mensen bij rationeel onderzoek. Het kan ons helpen medicijnen uit te vinden, of ons te bevrijden van ‘onzinbanen’ of van het betalen van belastingen – taken die weinig nadenken vergen en weinig voldoening bieden. Des te beter. Maar Kant en zijn tijdgenoten pleitten niet voor de rede boven het geloof, alleen maar zodat mensen betere planken konden bouwen of meer vrije tijd zouden hebben. Kritisch denken ging niet alleen over efficiëntie: het was een praktijk van menselijke vrijheid en empowerment.
Het menselijk denken is rommelig en vol fouten, maar het dwingt ons om te argumenteren, te twijfelen, ideeën aan elkaar te toetsen – en de grenzen van ons begrip te erkennen. Het schept vertrouwen, zowel individueel als collectief. Voor Kant ging het bij de uitoefening van de rede nooit alleen om kennis; het ging erom mensen in staat te stellen hun eigen leven te bepalen en zich tegen overheersing te verzetten. Het ging om het opbouwen van een morele gemeenschap gebaseerd op het gedeelde principe van rede en debat, in plaats van op blind vertrouwen.
Met alle voordelen die kunstmatige intelligentie met zich meebrengt, is de uitdaging deze: hoe kunnen we de belofte van bovenmenselijke intelligentie exploiteren zonder de menselijke redenering, de hoeksteen van de Verlichting en van de liberale democratie zelf, uit te hollen? Dit kan een van de cruciale vragen van de 21e eeuw zijn. Het is iets dat we beter niet aan de machine kunnen delegeren.
