In juni 2025 ontdekten onderzoekers een kwetsbaarheid die gevoelige Microsoft 365 Copilot-gegevens blootlegde zonder enige gebruikersinteractie. In tegenstelling tot conventionele inbreuken op basis van phishing of gebruikersfouten, omzeilde deze exploit, nu bekend als EchoLeak, menselijk gedrag volledig, door in stilte gevoelige informatie te extraheren door de manier te manipuleren waarop Copilot met gebruikersgegevens omgaat. Het incident benadrukt een ontnuchterende realiteit: de huidige beveiligingsmodellen, ontworpen voor voorspelbare softwaresystemen en verdedigingen op applicatieniveau, zijn slecht toegerust om om te gaan met de dynamische, onderling verbonden aard van de AI-infrastructuur.
