Zoals velen Silicon Valley bedrijven vandaag de dag, AI-verkenners hij traint geweldig NAAR DE modellen en agenten om huishoudelijke taken te automatiseren. Het grote verschil is dat Scout AI-agenten, in plaats van code te schrijven, op e-mails te reageren of dingen online te kopen, zijn ontworpen om met explosieve drones dingen in de fysieke wereld te doorzoeken en te vernietigen.
Tijdens een recente demonstratie, gehouden op een geheime militaire basis in centraal Californië, kreeg Scout AI-technologie de opdracht een zelfrijdende terreinwagen en een paar dodelijke drones te gebruiken. De agenten gebruikten deze systemen om een vrachtwagen te vinden die verborgen was in het gebied, en bliezen deze vervolgens op met een explosieve lading.
“We moeten AI van de volgende generatie naar het leger brengen”, vertelde Colby Adcock, CEO van Scout AI, me onlangs in een interview. (De broer van Adcock, Brett Adcock, is de CEO van Figure AI, een startup die zich bezighoudt met humanoïde robots.) “We nemen een basaal hyperscaler-model en trainen het om van een algemene chatbot of agent-assistent te veranderen in een vechter.”
Het bedrijf van Adcock maakt deel uit van een nieuwe generatie startups die racen om technologie van grote AI-laboratoria aan te passen aan het slagveld. Veel politici geloven dat het exploiteren van kunstmatige intelligentie het zal de sleutel zijn tot toekomstige militaire dominantie. Het gevechtspotentieel van AI is een van de redenen waarom de Amerikaanse regering dit heeft gedaan geprobeerd de verkoop te beperken van geavanceerde AI-chips en apparatuur voor het maken van chips naar China, hoewel de regering-Trump onlangs een bod heeft uitgebracht ervoor gekozen om die controles te versoepelen.
“Het is goed voor startups op het gebied van defensietechnologie om de grenzen te verleggen met AI-integratie”, zegt Michael Horowitz, professor aan de Universiteit van Pennsylvania die eerder bij het Pentagon diende als plaatsvervangend adjunct-secretaris van defensie voor strijdkrachtontwikkeling en opkomende capaciteiten. “Dit is precies wat ze zouden moeten doen als de Verenigde Staten het voortouw willen nemen bij de militaire adoptie van AI.”
Horowitz merkt echter ook op dat het in de praktijk bijzonder moeilijk kan zijn om te profiteren van de nieuwste ontwikkelingen op het gebied van kunstmatige intelligentie.
Grote taalmodellen zijn inherent onvoorspelbaar en zijn agenten van kunstmatige intelligentie, zoals degenen die het populaire beheersen OpenClaw AI-assistent—slecht kan gedragen wanneer ze zelfs relatief onschuldige taken krijgen, zoals het online bestellen van goederen. Horowitz zegt dat het bijzonder moeilijk kan zijn om aan te tonen dat dergelijke systemen robuust zijn vanuit een cyberveiligheidsperspectief, iets dat nodig zou zijn voor wijdverbreid militair gebruik.
De recente Scout AI-demo bevatte verschillende stappen waarbij de AI de vrije hand had over de gevechtssystemen.
Aan het begin van de missie werd het volgende commando ingevoerd in een AI Scout-systeem dat bekend staat als Fury Orchestrator:
Een relatief groot AI-model met meer dan 100 miljard parameters, dat kan draaien op een beveiligd cloudplatform of op een on-site computer met luchtopening, interpreteert de initiële opdracht. Scout AI gebruikt een niet bekendgemaakt open source-model waarvan de beperkingen zijn verwijderd. Dit model fungeert vervolgens als een agent en geeft opdrachten aan kleinere 10 miljard parametermodellen die draaien op de grondvoertuigen en drones die bij de oefening betrokken zijn. De kleinere modellen fungeren ook zelf als agenten en geven hun opdrachten aan de AI-systemen op een lager niveau die de bewegingen van de voertuigen controleren.
Een paar seconden nadat het bevel tot marcheren was ontvangen, reed het grondvoertuig weg langs een onverharde weg die door struiken en bomen slingert. Een paar minuten later stopte het voertuig en zond een paar drones uit, die naar het gebied vlogen waar het doelwit zou wachten. Nadat hij de vrachtwagen had opgemerkt, gaf een AI-agent die met een van de drones racete, het bevel om ernaartoe te vliegen en een explosieve lading tot ontploffing te brengen vlak voor de botsing.
