Een geschil tussen NAAR DE Antropisch bedrijf en het Pentagon over hoe het leger de technologie van het bedrijf kan gebruiken, zijn nu openbaar geworden. Te midden van gespannen onderhandelingen heeft Anthropic naar verluidt opgeroepen tot beperkingen voor twee belangrijke toepassingen: massasurveillance en autonome wapens. Het ministerie van Defensie, dat Trump heeft hernoemd Afdeling Oorlog wil vorig jaar de vrijheid om technologie te gebruiken zonder dergelijke beperkingen.
In het midden ligt Palantir. De defensieaannemer levert de veilige cloudinfrastructuur waarmee het leger het Claude-model van Anthropic kan gebruiken, maar zwijgt omdat de spanningen zijn gestegen. Het is net als het Pentagon, Voor Axiosdreigt Anthropic aan te merken als een ‘toeleveringsketenrisico’, een stap die Palantir zou kunnen dwingen de banden met een van zijn belangrijkste AI-partners te verbreken.
De dreiging kan een onderhandelingstactiek zijn. Maar als het ten uitvoer wordt gelegd, zou het verstrekkende gevolgen hebben, waardoor niet alleen Anthropic, maar ook haar klanten mogelijk worden uitgesloten van overheidswerk. “Het zou alleen maar betekenen dat de overgrote meerderheid van de bedrijven die nu (Claude) gebruiken om zichzelf effectiever te maken, plotseling niet meer in aanmerking komen om voor de overheid te werken”, zegt Alex Bores, een voormalig medewerker van Palantir. nu kandidaat voor het Congres in het 12e arrondissement van New York. “Het zou het vermogen van onze regering om dingen gedaan te krijgen vreselijk belemmeren.” (Palantir reageerde niet op een verzoek om commentaar.)
Antropisch en de woordenoorlog van het Pentagon
Tot nu toe heeft Anthropic nauwe banden onderhouden met het leger. Claude was het eerste grensverleggende AI-model dat werd ingezet op geheime Pentagon-netwerken. Afgelopen zomer gunde het ministerie van Defensie Anthropic een contract ter waarde van 200 miljoen dollar, en de technologie van het bedrijf werd ook gebruikt bij de recente Amerikaanse operatie om Nicolas Maduro gevangen te nemen, de Wall Street Journal gemeld deze week.
Maar de toewijding van het bedrijf aan bepaalde AI-veiligheidsprincipes heeft sommige mensen in de kring van president Donald Trump geïrriteerd. (Katie Miller, de vrouw van Stephen Miller, heeft het beschuldigde het bedrijf publiekelijk van liberale vooroordelen en heeft kritiek geuit op zijn toewijding aan democratische waarden.) In tegenstelling tot rivalen xAI en OpenAI, die beide ook contracten hebben met het ministerie van Defensie, is Anthropic nu verwikkeld in een gevecht met het Pentagon dat zich in het openbaar afspeelt.
“Anthropic zet zich in voor het gebruik van grens-AI ter ondersteuning van de Amerikaanse nationale veiligheid. Daarom waren wij het eerste grens-AI-bedrijf dat onze modellen op geheime netwerken plaatste en de eersten die aangepaste modellen leverden voor klanten op het gebied van de nationale veiligheid”, aldus een woordvoerder van het bedrijf. Snel bedrijf. “Claude wordt gebruikt voor een breed scala aan inlichtingengerelateerde gebruiksscenario’s binnen de overheid, inclusief de DoW, in overeenstemming met ons gebruiksbeleid. We hebben productief gesprekken, in goed vertrouwen, met DoW over hoe we dat werk kunnen voortzetten en deze complexe problemen kunnen oplossen.
Het Pentagon heeft een meer confronterende toon aangenomen. Ambtenaren van het Agentschap herzien hun relatie met Anthropic en hebben gesuggereerd dat andere contractanten mogelijk ook moeten stoppen met werken met het bedrijf. “De relatie van het Ministerie van Oorlog met Anthropic wordt momenteel herzien”, zei hoofdwoordvoerder van het Pentagon, Sean Parnell Snel bedrijf. “Onze natie eist dat onze partners bereid zijn onze strijders te helpen in welke strijd dan ook te winnen.” (Parnell reageerde niet op een verzoek om opheldering over specifieke zorgen over autonome wapens of surveillance.)
Palantir, de tussenpersoon
Palantir neemt een cruciale positie in dit ecosysteem in. Het is al jarenlang een softwareleverancier voor de overheid en voldoet aan een aantal vereisten waardoor het clouddiensten kan aanbieden ter ondersteuning van geheim werk. En, zoals typisch is in de duizelingwekkende wereld van overheidstechnologie-inkoop, Palantir Ook heeft belangrijke partnerschappen met Anthropic.
Twee jaar geleden werkten de bedrijven samen om de technologie van Anthropic naar de overheid te brengen, een stap die Claude beschikbaar maakte voor defensie- en inlichtingendiensten via Amazon Web Services. Afgelopen april sloot Anthropic zich aan bij het FedStart-programma van Palantir, waarmee de beschikbaarheid van zijn technologie voor overheidsklanten via Google Cloud werd uitgebreid.
Het inkopen van technologie door de overheid is een wankele zaak, maar bedrijven die software aan de overheid willen verkopen moeten doorgaans samenwerken met een gecertificeerde cloudprovider als Palantir, of zich zelf laten certificeren. “Als je nog nooit in een geheime omgeving hebt gewerkt, heb je in wezen een voertuig nodig”, legt Varoon Mathur uit, die in de regering-Biden aan kunstmatige intelligentie werkte. “Palantir is een defensie-aannemer met een diepe operationele integratie. Anthropic is een leverancier van AI-modellen die gebruik wil maken van dat ecosysteem.”
De toenemende spanningen over de manier waarop het ministerie van Defensie Claude zou kunnen gebruiken, roepen ook vragen op over de mate waarin bedrijven als Palantir en Anthropic zicht hebben op het gebruik van hun instrumenten door de overheid. “Anthropic en OpenAI bieden Zero Data Retention-gebruik, wat betekent dat ze de verzoeken van hun kunstmatige intelligentie niet opslaan”, zegt Steven Adler, voormalig OpenAI-medewerker en AI-beveiligingsexpert Snel bedrijf. “Dit maakt het natuurlijk moeilijker om eventuele schendingen van hun voorwaarden af te dwingen.”
Een persoon die bekend is met de zaak zei dat Anthropic gedetailleerde informatie heeft over hoe zijn technologie wordt gebruikt, ongeacht of dit zich in een geheime omgeving bevindt, en dat het bedrijf er vertrouwen in heeft dat zijn partners en gebruikers de technologie hebben geïmplementeerd in overeenstemming met zijn beleid. In zijn rapport zegt de Wall Street Journal aangehaald Mensen die bekend waren met de zaak en zeiden dat een medewerker van Anthropic contact had opgenomen met Palantir om te vragen naar de inzet van Claude in de Maduro-operatie, hoewel Anthropic tegen die zender ontkende dat het buiten de technische discussies om met Palantir had gesproken. Antropisch woordvoerder vertelt het Snel bedrijf dat het bedrijf geen commentaar kan geven op het gebruik van zijn technologie bij specifieke militaire operaties, maar zei dat het “nauw samenwerkt met onze partners om naleving te garanderen.”
Meer in het algemeen dreigt de impasse de betrekkingen tussen Silicon Valley en Washington te verslechteren, in een tijd waarin de regering aandringt op agressievere invoering van kunstmatige intelligentie. “Eigenlijk zeggen dat het onze weg of de snelweg is, en als je beperkingen probeert op te leggen, zullen we niet alleen geen contract ondertekenen, maar ook achter jouw zaken aan gaan, is een enorme wake-up call voor elk bedrijf dat er zelfs maar aan denkt om overheidscontracten aan te gaan”, zegt Bores.
