Een team van onderzoekers heeft ontdekt wat volgens hen het eerste gerapporteerde gebruik is van kunstmatige intelligentie om een hackcampagne grotendeels geautomatiseerd te sturen.
Het kunstmatige intelligentiebedrijf Antropisch zei deze week dat het een cyberoperatie had verstoord die zijn onderzoekers in verband brachten met de Chinese overheid. De operatie omvatte het gebruik van een kunstmatig intelligentiesysteem om hackcampagnes aan te sturen, wat onderzoekers een verontrustende ontwikkeling noemden die het bereik van AI-hackers enorm zou kunnen vergroten.
Hoewel zorgen over het gebruik van AI om cyberoperaties te begeleiden niet nieuw zijn, is het zorgwekkende aan de nieuwe operatie de mate waarin AI een deel van het werk heeft kunnen automatiseren, aldus onderzoekers.
“Hoewel we voorspelden dat deze capaciteiten zich zouden blijven ontwikkelen, viel ons op hoe snel ze dat op grote schaal deden”, schreven ze in hun relatie.
De operatie had een bescheiden omvang en was gericht op slechts ongeveer dertig mensen die werkzaam waren bij technologiebedrijven, financiële instellingen, chemische bedrijven en overheidsinstanties. Anthropic werd in september op de hoogte van de operatie en ondernam stappen om de operatie stop te zetten en de betrokken partijen op de hoogte te stellen.
Hackers “zijn slechts in een beperkt aantal gevallen succesvol geweest”, aldus Anthropic, die opmerkte dat hoewel AI-systemen steeds vaker worden gebruikt in een verscheidenheid aan werk- en spelcontexten, ze ook kunnen worden bewapend door hackergroepen die voor buitenlandse tegenstanders werken. Anthropic, maker van de generatieve AI-chatbot Claude, is een van de vele technologiebedrijven die AI-agenten aanbieden die verder gaan dan het vermogen van een chatbot om toegang te krijgen tot computertools en namens iemand acties te ondernemen.
“Agenten zijn van onschatbare waarde voor het dagelijkse werk en productiviteit – maar in de verkeerde handen kunnen ze de haalbaarheid van grootschalige cyberaanvallen aanzienlijk vergroten”, concludeerden de onderzoekers. “Deze aanvallen zullen hun effectiviteit waarschijnlijk alleen maar vergroten.”
Een woordvoerder van de Chinese ambassade in Washington stuurde niet onmiddellijk een bericht terug met de vraag om commentaar op het verhaal.
Microsoft eerder dit jaar op de hoogte gebracht dat buitenlandse tegenstanders steeds meer kunstmatige intelligentie omarmden om hun cybercampagnes efficiënter en minder mankrachtintensief te maken.
Amerika’s tegenstanders, maar ook criminele bendes en bedrijven hackenhebben het potentieel van kunstmatige intelligentie benut om cyberaanvallen te automatiseren, te verbeteren en te verspreiden opruiende desinformatieen gevoelige systemen binnendringen. AI kan bijvoorbeeld slecht geformuleerde phishing-e-mails vertalen naar vloeiend Engels digitale klonen van hoge overheidsfunctionarissen genereren.
