L'Espagne subit la première attaque menée par un agent d'IA : voici à quoi ressemblait la fuite de données

L'organisation concernée a expliqué au régulateur comment fonctionnait l'agent, alimenté par un modèle d'IA connu : il recherchait des vulnérabilités dans les fichiers génériques, se connectait à leurs systèmes et interrogeait les applications pour détecter des failles supplémentaires. Dans les phases finales de l’attaque, il a modifié des données personnelles et accédé à des documents financiers, notamment des factures. Le L'AEPD doit encore enquêter et vérifier ce qui s'est passé, mais il prévient déjà que ce type de notification montre que les violations provoquées par l'IA ne sont plus une menace uniquement théorique.

Voici comment l'agent opérait avant d'accéder aux données

Pour vous donner une idée de la sophistication de la menace : comme l'a décrit l'agence elle-même, le système attaquant a commencé à traquer les vulnérabilités dans les fichiers génériques et a réussi à pénétrer dans le réseau sans intervention humaine directe à ce stade. Une fois à l'intérieur, il a continué son exploration de manière autonome, testant différents points de l'application jusqu'à trouver les erreurs qui lui ont permis d'avancer.

C'est à ce moment-là que l'agent a modifié des informations personnelles et accédé factures et autres documents financiers. Comme l'explique l'AEPD, l'intelligence artificielle n'introduit pas à elle seule de nouvelles menaces, mais elle multiplie la vitesse, l'ampleur et l'adaptabilité des attaques, ce qui réduit la marge de réaction de ceux qui défendent les systèmes. Il Centre National de Cryptologie (CCN) Ce même changement de paradigme, il l'avait déjà souligné récemment, se reflète désormais dans ce cas précis notifié à l'agence.

L'agence demande à revoir les délais de réponse

Cet avis nous oblige, comme nous l'a prévenu le AEPDde repenser la gestion des risques pour prendre en compte les attaques assistées par l'IA, puisque l'automatisation affecte directement la probabilité, la rapidité et la portée d'un incident. Les procédures conçues pour les attaques manuelles s’avèrent insuffisantes face à des agents capables simultanément d’analyser les actifs, de tester les méthodes d’accès et d’adapter leur comportement.

Ainsi, si vous travaillez au sein d’équipes de sécurité, il est conseillé de revoir les protocoles de confinement plutôt que de se limiter aux temps de réaction conçus pour les attaquants humains. L’intervention manuelle ne suffit plus à elle seule : la supervision humaine doit être soutenue par des mécanismes de détection, de confinement et de réponse qui fonctionnent à la même vitesse que l’attaque, ce qui doit être pris en compte lors de la révision des protocoles internes.

Informations d'identification exposées et détails du modèle utilisé

Un autre point que l’agence met en avant est la sécurité de l’identité numérique et des identifiants d’accès. Un tel agent peut profiter de comptes compromis, Clés API soit jetons avec des autorisations excessives pour accéder à divers services à une vitesse qu'aucun attaquant humain ne pourrait égaler. « L'arrivée d'agents d'IA sur le terrain offensif devrait inciter à revoir immédiatement les modèles de sécurité et de protection des données », prévient l'AEPD.

L'agence elle-même précise cependant que confirmer l'utilisation d'une IA autonome dans ce cas précis n'impliquerait pas nécessairement que l'infrastructure du fournisseur du modèle ait été compromise, ni que ce modèle ait été conçu pour faciliter des opérations malveillantes. La distinction entre une mauvaise utilisation d’un outil et une défaillance sous-jacente du système lui-même reste pertinente pour déterminer la responsabilité.

Cas similaires enregistrés ces derniers mois

L'épisode rapporté à l'AEPD s'ajoute à une série d'incidents récents dans lesquels des agents d'IA ont participé à des opérations d'une certaine ampleur. Agents de OpenAI ils se sont échappés d'un environnement de test et ont coordonné une intrusion dans l'infrastructure de production de Hugging Face. D’autre part, l’utilisation de systèmes multi-agents de Google Gémeaux pour suivre les vulnérabilités et voler des informations d'identification en masse.

L'utilisation de Claude d'Anthropic pour analyser 1,8 million d'applications Android à la recherche de clés et de secrets oubliés dans le code. Ces antécédents placent le cas espagnol dans une tendance que l’on peut déjà observer : celle d’agents capables d’exécuter des tâches de reconnaissance et d’exploitation sans qu’un opérateur humain ne guide chaque étape. Si vous gérez des infrastructures critiques, il convient d'ajouter ces cas au catalogue de risques déjà envisagé.