De enorme cloud computing-afdeling van Amazon heeft naar verluidt ten minste twee storingen gehad, veroorzaakt door zijn eigen AI-tools, wat vragen doet rijzen over het vermogen van het bedrijf omarming van kunstmatige intelligentie omdat het menselijke werknemers ontslaat.
Een storing van 13 uur Amazone De Web Services (AWS)-operaties in december werden veroorzaakt door een AI-agent, Kiro, die er onafhankelijk voor koos om een deel van zijn omgeving te “verwijderen en vervolgens opnieuw te creëren”, meldde de Financial Times.
AWS, dat de vitale infrastructuur voor een groot deel van het internet levert, heeft grote schade geleden onderbrekingen vorig jaar.
Een incident in oktober zorgde ervoor dat tientallen sites urenlang gesloten waren en leidde tot een discussie over de concentratie van onlinediensten op de infrastructuur van enkele grote bedrijven. Sinds 2016 heeft AWS 189 Britse overheidscontracten binnengehaald ter waarde van £1,7 miljard Dat heeft The Guardian gemeld in oktober.
De door AI veroorzaakte storingen waren kleinere gebeurtenissen, aldus het bedrijf, en slechts één daarvan had gevolgen voor de klantgerichte dienstverlening.
Amazone plan om 16.000 banen te schrappen bevestigd in januari, daarna 14.000 werknemers ontslagen afgelopen oktober. CEO Andy Jassy zei naar verluidt in januari dat deze bezuinigingen te maken hadden met de bedrijfscultuur en niet met het vervangen van werknemers door kunstmatige intelligentie.
Jassy doet dat echter wel eerder zei dat de efficiëntiewinst als gevolg van AI het personeelsbestand van Amazon de komende jaren zal inkrimpen, en dat AI-agenten het bedrijf in staat zullen stellen zich “minder te concentreren op het hoofdwerk en meer op strategisch denken over hoe de klantervaring kan worden verbeterd.”
In een verklaring aan de Financial Times zei Amazon dat het toeval was dat er bij de storingen kunstmatige intelligentie-instrumenten betrokken waren en dat er geen bewijs was dat dergelijke technologie tot meer fouten leidde dan menselijke ingenieurs. “In beide gevallen was het een gebruikersfout, geen AI-fout”, zei hij.
Amazon vertelde de Guardian dat er slechts één incident was met gevolgen voor AWS, in plaats van twee.
Verschillende deskundigen stonden sceptisch tegenover deze beoordeling. Een beveiligingsonderzoeker, Jamieson O’Reilly, zei: “Hoewel ontwerpfouten veroorzaakt door traditionele tools en mensen geen zeldzame gebeurtenis zijn, is het verschil tussen deze en incidenten waarbij AI betrokken is dat een mens ‘zonder’ AI doorgaans handmatig een reeks instructies moet typen, en terwijl hij dat doet, hij veel meer tijd heeft om zijn fout te beseffen.”
AI-agenten worden vaak ingezet in beperkte omgevingen en voor specifieke taken, zegt O’Reilly, en zijn niet in staat de bredere gevolgen te begrijpen van bijvoorbeeld het opnieuw opstarten van een systeem of het verwijderen van een database, wat mogelijk tot de fout bij Amazon heeft geleid.
“Ze hebben geen volledig inzicht in de context waarin ze opereren, hoe klanten hierdoor getroffen kunnen worden of wat de kosten zijn van downtime op dinsdag om 02.00 uur”, zegt hij.
“Je moet deze tools voortdurend aan de context herinneren: ‘Hé, dit is serieus, maak er geen gedoe van.’ En als je dat niet doet, begin je alle andere gevolgen te vergeten.”
Vorig jaar een AI-agent ontworpen Door het technologiebedrijf Replit om een app te maken, verwijderde hij een hele bedrijfsdatabase, verzonnen rapporten en loog over zijn daden.
Michał Woźniak, een cybersecurity-expert, zei dat het voor Amazon vrijwel onmogelijk zou zijn om volledig te voorkomen dat interne AI-agenten in de toekomst fouten maken, omdat AI-systemen onverwachte keuzes maken en uiterst complex zijn.
“Amazon laat nooit een kans voorbijgaan om te wijzen op ‘kunstmatige intelligentie’ wanneer dat nuttig voor hen is, zoals in het geval van massaontslagen die worden voorgesteld als het vervangen van ingenieurs door AI. Maar wanneer een slopgenerator betrokken is bij een storing, is het opeens slechts een ‘toeval’”, voegde hij eraan toe.
Een woordvoerder van Amazon zei: “Deze korte gebeurtenis was het resultaat van een gebruikersfout – met name verkeerd geconfigureerde toegangscontroles – en niet van kunstmatige intelligentie.”
Ze zeiden dat de “servicestoring vorig jaar een uiterst beperkte gebeurtenis was” toen een tool die werd gebruikt om de kosten voor zijn klanten weer te geven, in delen van China werd getroffen.
Ze voegden eraan toe: “Deze gebeurtenis had geen impact op computers, opslag, databases, kunstmatige intelligentietechnologieën of andere van de honderden diensten die we exploiteren.
“Naar aanleiding van deze gebeurtenissen hebben we verschillende aanvullende beveiligingsmaatregelen geïmplementeerd, waaronder verplichte peer review voor productietoegang. Kiro geeft ontwikkelaars controle: gebruikers moeten configureren welke acties Kiro kan ondernemen, en standaard vraagt Kiro om toestemming voordat hij enige actie onderneemt.”
