- Bij een ontwikkelaar die Google Antigravity gebruikte, werd zijn hele harde schijf gewist door de Turbo-modus van de AI
- De AI interpreteerde een opdracht voor het wissen van de cache verkeerd en verwijderde de bestanden permanent
- Ondanks het catastrofale verlies verontschuldigde de AI zich kalm en stelde herstelsoftware voor
In een van de meest verontrustende demonstraties in de echte wereld van wat er mis kan gaan als AI-agenten zich een beetje te comfortabel voelen met de toegang tot en controle over hun eigen computer, gebruikt een ontwikkelaar Googlenhet is nieuw Anti-zwaartekracht IDE er staat dat de tool per ongeluk de volledige D:-schijf heeft verwijderd.
Het ongeluk in de eerste plaats gedeeld op Reddit en gedetailleerd in a YouTube video, benadrukt hoe gevaarlijk het is Ik heb een agent ontwikkelingshulpmiddelen kunnen ontstaan als ze niet met mensen te maken hebben.
De ontwikkelaar werkte aan een app en vroeg de AI-agent om de cache van het project te wissen. In plaats daarvan gaf Antigravity’s Turbo Mode een systeembrede opdracht uit die zich richtte op de D:-schijf van de gebruiker, en niet alleen op de beoogde map. Alles is verdwenen van de schijf, code en documentatie tot media en assets. Het werd allemaal verwijderd zonder enig verzoek of bevestiging.
Erger nog, de AI gebruikte de “stille” vlag /q, wat betekent dat er geen waarschuwingen of tweede kansen zijn en geen bestandsherstel. Gewoon een lege map waar vroeger een app stond.
De AI-autopsie, gedeeld door de gebruiker, vertegenwoordigt een van de vreemdste excuses ooit. De AI schreef: “Het spijt me heel erg. Dit is een kritieke mislukking van mijn kant.” De agent ging zelfs zo ver dat hij software voor gegevensherstel voorstelde en ‘mogelijk een professional inhuurde’.
De gebruiker heeft het geprobeerd, maar niets werkte. De ontwikkelaar meldde dat Recuva, een populaire hersteltool, ook de media-inhoud niet kon herstellen. Maar de AI verontschuldigde zich tenminste.
Antigravity maakt deel uit van Google’s recente poging om agent-ontwikkelingstools te ontwikkelen, die verder gaan dan alleen het aanbieden van codesuggesties. Met tools als Antigravity kan AI semi-autonoom handelen en opdrachten binnen uw systeem plannen, coderen, debuggen en uitvoeren.
Ontwikkelaars kunnen het gebruiken om full-stack-apps te bouwen, hun codebases automatisch te documenteren, browsertestagents te integreren en zelfs webscraping en -implementatie uit te voeren. Als het zorgvuldig wordt gebruikt, kan het nuttig zijn. Als u minder oplet, zijn ongelukken zoals het verwijderen van schijven onvermijdelijk.
Vooral de Turbo-modus is ontworpen voor snelheid, omdat deze bevestigingen overslaat en de AI-keten door omgevingen kan leiden. Dit is wat hoofdgebruikers moeten inschakelen als ze zeker weten dat de AI weet wat hij doet.
Ik vertrouw
Dit is waar het voor de gemiddelde persoon duister wordt. U hoeft geen ontwikkelaar te zijn om te begrijpen wat er op het spel staat. Nu tools als Antigravity hun intrede doen in kantoorautomatisering en creatieve productie, zullen steeds meer mensen complexe, risicovolle taken delegeren aan systemen die ze nauwelijks begrijpen. Wanneer deze systemen falen, begint het schuldspel.
Er is een gesprek mogelijk over betere standaardinstellingen. Het uitvoeren van destructieve commando’s zonder eerst contact op te nemen met de gebruiker lijkt absurd. Maar AI-agenten zijn zinloos als ze niet kunnen worden vertrouwd. Maar niemand zal AI enige autonomie geven als ze zich zorgen maken dat dingen catastrofaal misgaan.
Beveiligingsonderzoekers zij waarschuwden dat het agentsysteem van Antigravity toegang kan krijgen tot gevoelige bestanden en terminalopdrachten kan uitvoeren met weinig toezicht. Het is gemakkelijk om enthousiast te worden over slimme tools die alles voor je doen. Het is moeilijker om te onthouden dat een enkele brand door een overijverige officier uren, weken of jaren werk ongedaan kan maken.
Niettemin zei het Antigravity-slachtoffer dat hij nog steeds van Google houdt en al zijn producten gebruikt. Dit soort merkloyaliteit, zelfs in het licht van de totale datavernietiging, spreekt boekdelen over hoe genormaliseerde AI-fouten al zijn geworden. Misschien is het beste waar u op kunt hopen een welsprekende verontschuldiging en enkele links naar herstelsoftware.
Volg TechRadar op Google Nieuws EN voeg ons toe als uw favoriete bron om nieuws, recensies en meningen van onze experts in uw feeds te krijgen. Klik dan zeker op de knop Volgen!
En jij kunt dat natuurlijk ook Volg TechRadar op TikTok voor nieuws, recensies, unboxing in videoformaat en ontvang regelmatig updates van ons WhatsApp ook.
De beste zakelijke laptops voor elk budget
