Nu de voorverkiezingen voor de tussentijdse verkiezingen naderen, richten sommige kandidaten hun campagnes op het reguleren van de situatie kunstmatige intelligentie. Aan de rechterkant waarschuwen populistische Republikeinen dat de AI-industrie de Make America Great Again-beweging dreigt te ondermijnen. Aan de linkerkant bestaat er bezorgdheid over de groeiende politieke en sociale macht van de sector. Over het hele spectrum bestaat er bijna universele bezorgdheid over wat technologie met kinderen zou kunnen doen.
De donorklasse is er nu bij betrokken: een super PAC genaamd Leading the Future, gesteund door OpenAI-directeur Greg Brockman en Andreessen Horowitz, is van plan op de middellange termijn tot 100 miljoen dollar uit te geven om zijn favoriete kandidaten te ondersteunen. Een andere tweeledige super-PAC werd eerder deze week gevormd en richtte zich op het bevorderen van een nationaal raamwerk voor het reguleren van kunstmatige intelligentie. Deze gevechten komen terwijl de regering-Trump aandringt op het beperken van het vermogen van staten om de technologie te reguleren.
Alex Bores, auteur van wetgeving inzake kunstmatige intelligentie in de staat New York en kandidaat om het 12e district te vertegenwoordigen, werd tijdens de tussentijdse verkiezingen een van de belangrijkste doelwitten van Leading the Future voor politieke uitgaven. “Het is een ereteken”, zegt hij, terwijl hij de inspanning vergelijkt met een F-rating van de National Rifle Association.
“Dit is niet één technologie tegen alle andere”, zegt hij Snel bedrijf. “Dit is een klein deel van het technologie-ecosysteem dat, in plaats van deel te nemen aan gezamenlijke discussies over rekeningen en hoe we voor iedereen kunnen werken, heeft besloten dat ze de stemmen van iemand anders dan zijzelf willen overstemmen door honderden miljoenen uit te geven.”
Snel bedrijf praatte met Bores over AI in de politiek, zijn tijd bij Palantir en wat er nodig zou kunnen zijn om de overheid te moderniseren. Dit interview is aangepast voor lengte en duidelijkheid.
Een van de dingen waar het ontwerp van uitvoeringsbesluit over spreekt, is de creatie door de regering-Trump van een federale aanpak voor het reguleren van kunstmatige intelligentie. Hoe serieus neem je het?
Het is een cliché in Washington dat als je wilt dat iets niet gedaan wordt, je een commissie leidt om het te bestuderen. En daarom is het dwaas om een voorstel te doen om iets te bestuderen – misschien om een beleid vooruit te helpen. Ik wil duidelijk zijn: het juiste antwoord op deze vragen is een federale norm. De enige reden waarom staten in actie kwamen is omdat de federale overheid dat niet deed. Als ze echt aan een federale standaard willen werken, zullen ze overal partners vinden. Waar zij prioriteit aan geven, is voorkomen dat een staat actie onderneemt, en niet daadwerkelijk problemen oplossen.
We bevinden ons in een tijd waarin er veel kritiek en debat is over hoe de toekomst van de Democratische Partij eruit zou moeten zien. In New York, een liberaal bolwerk, ben ik benieuwd waar gesprekken over hoe we moeten omgaan met opkomende technologieën en kunstmatige intelligentie zouden kunnen passen in de herinrichting van de Democratische Partij en de drang om ons te concentreren op kwesties die jongere kiezers aanspreken en ontevreden kiezers die niet zo geïnteresseerd zijn geweest in wat de Democraten hebben aangeboden.
We moeten altijd eerst de mens en de mens centraal stellen. De specifieke modaliteiten die een rol spelen in het AI-beleid zijn de modaliteiten die gericht zijn op jongeren. De grootste impact van AI op de arbeidsmarkt op dit moment betreft banen op instapniveau, en we zien een toename van de werkloosheid onder mensen in die groep die op zoek zijn naar hun eerste baan.
Een van de meest populaire dingen die we dit jaar in New York hebben gedaan, was telefoonvrije scholen, zodat we daadwerkelijk de manier konden veranderen waarop technologie in de klas wordt gebruikt en ervoor konden zorgen dat deze werd gebruikt voor onderwijs en niet voor screening of scrollen op sociale media. (Eerder dit jaar heeft de staat nieuwe regels ingevoerd voor elektronische apparaten tijdens schooluren.)
We moeten niet streven naar een grote deal op het gebied van kunstmatige intelligentie, alsof het een statisch vraagstuk is. Het is iets dat doordringt in alles wat we doen, en we moeten onze beveiliging voortdurend bijwerken naarmate de technologie groeit.
Kunt u ons iets meer vertellen over wat u bij Palantir hebt gedaan en uw beslissing om te vertrekken?
Ik werk al vier en een half jaar bij Palantir. Ik bracht het grootste deel van mijn tijd door in het federale civiele team en werkte samen met de regering om het Amerikaanse volk beter te dienen. Ik heb met het ministerie van Justitie samengewerkt om de opioïde-epidemie te bestrijden. . . . Ik werkte samen met het Department of Veterans Affairs om het ziekenhuispersoneel te verbeteren en veteranen beter van dienst te zijn. Ik werkte samen met de CDC (Centers for Disease Control and Prevention) aan het begrijpen van epidemieën.
Ik ben echt trots op het werk dat ik daar heb gedaan, omdat het erom ging de overheid beter te laten functioneren. Afgezien van technologie denk ik dat hetgene waar de Democratische Partij en het land als geheel meer van moeten zien, is dat mensen bereid zijn obstakels te overwinnen en ervoor te zorgen dat de overheid daadwerkelijk een kracht ten goede is en de mensen dient, en niet alleen maar het politieke gedoe dat het meeste is van wat ze op tv zien.
Ik vertrok in 2019 toen Palantir zijn contract met ICE verlengde, of kort daarna verlengde Palantir. Palantir had een contract met Homeland Security Investigations om de grensoverschrijdende drugs- en mensenhandel te helpen bestrijden. Tijdens de eerste regering-Trump begonnen ze die software te gebruiken voor handhavings- en verwijderingsoperaties, voor wat de meeste mensen beschouwen als deportatie. Dit is een andere afdeling binnen ICE. . . . Dit was niet iets dat werd verwacht toen het contract met de regering-Obama werd ondertekend. En toen Palantir dat contract verlengde, zonder dat werk te bezuinigen of beschermingsmaatregelen in te voeren die in de toekomst zouden toenemen, motiveerde dat mij om te vertrekken.
Wat vind je op dit moment van het gesprek rondom Palantir? Het bedrijf benadrukte dat het via meerdere administraties heeft gewerkt, maar ook met ICE en met Israëlheeft geleid tot grote kritiek op het bedrijf.
Ik ben er al zes jaar niet meer geweest, dus ik heb niet meer details over hoe ze momenteel werken dan wie dan ook die het nieuws leest, maar ik ben trots op het werk dat ik daar heb gedaan en maak heel openlijk bekend met de redenen waarom ik ben vertrokken.
Hoe moeilijk is het om technologie in de overheid te kopen om de zaken sneller en efficiënter te maken? Modernisering van de overheid – het updaten van overheidssoftware en het bieden van betere klantenservice – blijft een grote uitdaging.
Niemand vraagt naar de staatsovername. Dit is verrassend. Het is vreselijk inefficiënt en dat schaadt het Amerikaanse volk. Het duurt te lang voordat de overheid een contract kan tekenen, waardoor de kosten – en dus wat het Amerikaanse volk uiteindelijk moet betalen – omhoog gaan.
Ze profiteren dus meer van insiders die weten hoe ze contracten moeten sluiten dan van mensen die nuttige diensten kunnen verlenen, zodat het Amerikaanse volk niet de voordelen krijgt van startups en anderen die misschien goedkopere en snellere manieren hebben om problemen op te lossen.
Het is een probleem op elk bestuursniveau. Een van de eerste wetsvoorstellen die ik als lid van de Assembly in New York aannam, was het voor de overheid gemakkelijker maken om daadwerkelijk cloud computing te gebruiken in plaats van servers te kopen en deze altijd op hardware te laten draaien, wat de levering van diensten aan New Yorkers vertraagde. . . . Een programma met de naam FedRAMP moest het gemakkelijker maken om technologie aan de overheid te leveren: je zou een veiligheidsonderzoek doen, je laten certificeren en dan aan elke (federale) afdeling kunnen verkopen, zodat zij niet hun eigen (onderzoek) hoefden te doen. Maar het is een ongelooflijk belastend proces geworden dat het alleen maar veel moeilijker maakt om daadwerkelijk met de federale overheid samen te werken.
Moeten politici generatieve AI gebruiken in advertenties?
Dat deed ik niet. Maar ik heb de wetten van New York geschreven die erover regeren, en waar we op zijn gekomen is dat het openbaar moet worden gemaakt. En als je het gebruikt om deepfakes van een kandidaat te creëren, heeft de kandidaat het recht om een voorlopige voorziening met versnelde beoordeling aan te spannen om die advertentie te verwijderen als deze het publiek misleidt door iets te geloven dat werkelijk is gebeurd.
Het probleem van deepfakes heeft een technische oplossing, en politici zijn er eenvoudigweg niet in geslaagd het bij te houden. Historisch gezien wordt ons verteld dat dit zo is. . . het zal simpelweg een kat-en-muisspel zijn waarbij je betere deepfake-detectoren hebt en dus betere AI-generatoren (of dat), die strijd zullen we nooit winnen. Maar de industrie heeft een gratis en open source data-metadatastandaard gecreëerd, C2PA genaamd, die kan worden toegevoegd aan elk type standaard audio-, video- of afbeeldingsbestand dat cryptografisch bewijst of die inhoud van een echt apparaat is gehaald, door AI is gegenereerd en/of hoe deze tijdens het proces is gewijzigd.
Als je op een punt zou komen waarop 90%, 95% van de mensen die standaard zou gebruiken, zouden we het deepfake-probleem hebben opgelost, want elke keer dat je die inloggegevens niet ziet, zou je onmiddellijk achterdochtig zijn over wat er wordt getoond.
