Zelfs stille en enigszins onderbelichte afleveringen Star Trek: de volgende generatie ze hebben vreemd vooruitziende eigenschappen. Tijdens zijn bijna perfecte vierde seizoen, TNG had verschillende successen en zelfs enkele afleveringen die onder de sensoren vlogen. In de week van 11 februari 1991 was een van die afleveringen ‘Clues’, de veertiende aflevering van Seizoen 4wat destijds een leuke hoofdkrabber leek. Maar vandaag de dag leest de aflevering een beetje anders dan in 1991. Wat toen een vreemd verhaal was over een scheepsmysterie, leest nu eigenlijk als een soort voorspellend verhaal dat van toepassing is op de 21e-eeuwse zorgen over wat AI doet, en het vertelt ons niet de waarheid.
Dit is waarom ‘Clues’ nu de moeite waard is om opnieuw te bekijken, en hoe Mr. Data (Brent Spiner) fungeert als een ambitieuze AI, met een grote twist.
Spoilers vooruit.
In de film uit 2014 Interstellairwe grappen dat de TARS-robot altijd een beetje liegt tegen de bemanning, anders zouden de mensen zich ongemakkelijk voelen. Dit idee grijpt terug op enkele van de meest formatieve speculatieve fictie over kunstmatige intelligentie; we willen dat onze robots als hulpmiddel dienen, maar we houden niet altijd van de antwoorden die door databases en algoritmen worden gegenereerd. In Isaac Asimovs verhaal uit 1941 “Liar!” een robot begint te liegen tegen zijn verschillende menselijke collega’s, uit bezorgdheid voor hun gevoelens, en om slaafs vast te houden aan zijn ‘doe geen kwaad’-programma, begint hij leugens om bestwil te vertellen.
Houd de telefoon vast! Onze AI liegt!
Paramount/CBS
Gekampeerd door een fan genaamd Bruce D. Arthurshet “Clues” -specificatiescript werd later herschreven door TNG medewerker Joe Menosky. Dit opendeurbeleid, dat TNG ze zouden scriptpitches ontvangen van buiten de schrijverskamer, ze begonnen in seizoen drie en zijn een van de coolste dingen van de iconische serie; de tijd waarin alle ideeën welkom waren en legitieme afleveringen van Star Trek konden worden.
Daarom is het concept van TNG de aflevering ‘Clues’ gaat over voorkennis versus wat we ‘de waarheid’ kunnen noemen. Aanvankelijk begint de aflevering met een ruimtemysterie: de Bedrijf glijdt in een wormgat en verliest een hele dag. Iedereen valt flauw en Data, een androïde, is de enige persoon die niet wordt getroffen. Naarmate de aflevering vordert, geven verschillende details aan dat er iets is gebeurd dat niet strookt met Data’s beoordeling van wat er is gebeurd. Nadat hij wat obscure technische onzin heeft laten vallen om met de hand te zwaaien naar de verklaring waarom iedereen werd uitgeschakeld, vraagt kapitein Picard (Patrick Stewart) de bemanning ronduit: liegt Data, hun onfeilbare AI-vriend en vertrouweling, tegen hen allemaal?
De aflevering krijgt dan een dubbel mysterie: wat is er met de bemanning gebeurd, EN waarom zou Data erover liegen? Net als oude robots zijn gegevens geprogrammeerd met Asimoviaanse wetten; hij moet de bevelen van mensen gehoorzamen, maar hij kan ook niet toestaan dat mensen schade oplopen door handelen of nalaten. Dus, zoals bij veel goede Star Trek-conflicten, gaat de vraag hier niet over kwaadwilligheid of bedrog met kwade bedoelingen, maar eerder over een meer complexe kwestie. Data zijn niet kwaadaardig geworden en hebben het schip niet overgenomen (dat is voor een andere aflevering), maar hij liegt. Waarom?
Het vergelijken van de gegevens met moderne AI-aangedreven chatbots is verleidelijk, hoewel het een ongrijpbare analogie is. ChatGPT en Grok hebben geen gevoel en willen ook niet menselijker worden, tapdanslessen volgen of verliefd worden. Data zijn, paradoxaal genoeg, een analoge kunstmatige intelligentie; het maakt geen deel uit van een gedeelde informatiewolk zoals de Borg of het internet, en zijn beslissingen zijn gebaseerd op hardware die niet ‘online’ is, om zo te zeggen. Maar op de laatste momenten van deze aflevering leren we dat Data dat wel was netjes liegen tegen de bemanning door Picard zelf. De reden? Een zeer gevaarlijke en isolationistische buitenaardse soort eiste dat geheim gehouden zou worden, en de enige oplossing was het massaal wissen van het geheugen en het bevel geven aan Data om het geheim voor altijd te bewaren.
Kunnen we de gegevens vertrouwen? Kunnen we kunstmatige intelligentie vertrouwen?
Paramount/CBS
In de huidige context gaat het niet echt om het hallucineren of verstrekken van valse informatie door de AI, maar eerder om het verbergen van wat als schadelijk informatie uit de algemene bevolking. Gebeurt dit vandaag? Reken maar. Je kunt apps downloaden die je blokkeren om online te gaan, er zijn overal inhoudsfilters en verschillende chatbots kunnen om vrij voor de hand liggende redenen niet over specifieke dingen praten.
In de voorspelling van Star Trek over de toekomst van onze kunstmatige intelligentie zouden organische mensen echter nog steeds de volledige controle hebben. De gemiddelde mens heeft geen goed idee van wat AI wel en niet goed is, waardoor we allemaal meer lijken op de naamloze bemanningsleden van de Bedrijf dat ze nog nooit van dit schandaal hadden gehoord, en nooit hadden geweten dat Data moest liegen. In onze gedachten lijken we allemaal op Kapitein Picard, die onze technologie vertelt wat ze moeten doen en wanneer ze dat moeten doen. Maar in de praktijk is de toekomst van AI-bedrog – al dan niet opzettelijk – duisterder. DE Bedrijf Uiteindelijk slaapt de bemanning vredig, wetende dat als Data over veel dingen liegt, ze hem nog steeds kunnen vertrouwen. Het is een schande dat Mr. Data in onze dappere nieuwe wereld nog steeds een volledig anachronistische kunstmatige levensvorm is. Als we wisten dat Data ChatGPT of Grok aan het factchecken was, zouden we ons misschien ook beter voelen.
