Le secteur des navigateurs Web devient de plus en plus complexe et exigeant, d’autant plus que l’IA commence à s’imposer dans tous les types de logiciels. Nous vous avons déjà parlé de ce type de projet OpenAI, Atlas, un projet sur lequel la firme parie beaucoup.
La vérité est que les grandes entreprises technologiques intègrent ce type de fonctions intelligentes dans nombre de leurs projets. C'est quelque chose qui atteint, par exemple, Google avec Chrome ou Microsoft avec Edge. Ainsi, une autre grande entreprise liée à l’intelligence artificielle, OpenAI, développeur de ChatGPT, a récemment lancé son propre navigateur Web. Cependant, à l’heure actuelle et d’après ce que l’on sait, il est plus vulnérable qu’on pourrait le croire.
Et, comme nous vous l'annoncions il y a quelques jours à peine, la firme précitée a lancé ChatGPT Atlasun nouveau navigateur basé sur l'IA. Nous parlons d'un projet avec des fonctions ChatGPT intégrées, le tout pour aider les utilisateurs. Ainsi, nous pouvons bénéficier d'outils pour résumer des pages Webédition de texte en ligne et diverses fonctions d'agent.
Mais tout n’allait pas être des avantages, comme nous allons vous le dire. Apparemment, un attaquant pourra profiter de l'absence de certaines limites dans le navigateur lui-même pour violer notre confidentialité et notre sécurité. Cela signifie que l’acteur malveillant peut convertir un message en une chaîne de type URL, le tout pour transformer la barre d’adresse multifonction en vecteur d’attaque.
Le navigateur ChatGPT Atlas est vulnérable aux attaques externes
Nous faisons en réalité référence à l’utilisation d’une URL intentionnellement mal formée qui commence par HTTPS et présente un texte similaire à celui d’un domaine conventionnel. Mais dans ChatGPT, Atlas peut être utilisé pour insérer des instructions en langage naturel pour l'agent et attaquer le programme.
Ainsi, dans un attaque potentielleun lien malveillant pourrait être placé dans un bouton Copier le lien sur n'importe quel site Web. Cela permettrait à l'attaquant de diriger les victimes vers des pages de phishing sous son contrôle. Et pire encore, il pourrait contenir une commande cachée permettant de supprimer les fichiers stockés dans des applications Web comme Google Drive, par exemple.
Atlas identifie ces adresses Web apparemment légitimes comme des informations utilisateur fiables. Cependant, ils pourraient contenir secrètement toutes sortes d’ordres secondaires susceptibles de faire des ravages dans nos équipes. Le chercheur en sécurité Martí Jordà de la société NeuralTrust nous informe de tout cela. Il nous indique que l'agent Atlas peut initier des actions sans rapport avec la destination web supposée, et ainsi nous renvoyer vers des pages sélectionnées par l'attaquant ou exécuter des commandes localement.
Le danger s'étend à d'autres comme Comet ou Neon
Comme on l'a appris maintenant, les attaquants peuvent en même temps fausses barres latérales des assistants IA dans le navigateur via des extensions malveillantes. Tout cela dans le but de voler des données ou d’inciter les utilisateurs à télécharger et à exécuter des logiciels malveillants. Même les sites Web malveillants peuvent également avoir une barre latérale d’IA usurpée de manière native, éliminant ainsi le besoin d’un plugin de navigateur.
Ainsi, l'attaque est activée lorsque l'utilisateur saisit un message dans la barre latérale usurpée. Tout cela amène l’extension à se connecter à son moteur d’IA et à renvoyer des instructions malveillantes lors de la détection de certains messages d’activation. L'extension, qui utilise JavaScript pour superposer une fausse barre latérale sur la barre légitime dans le navigateur AI, peut inciter les utilisateurs à accéder à des sites Web malveillants. Ils pourraient également installer des portes dérobées permettant aux attaquants d'accéder à distance à l'intégralité de l'ordinateur de la victime.
Nous parlons d'un risque émergent qui fait actuellement l'objet d'une enquête en raison de l'arrivée généralisée des barres d'IA dans plusieurs navigateurs actuels tels que Comet de Perplexity ou Opera Neon. Les attaquants cachent des instructions malveillantes sur des sites Web et d’autres sources pour tenter d’inciter l’agent à adopter un comportement indésirable.
| Navigateur | Promoteur | Statut actuel | Mesures annoncées / Notes |
|---|---|---|---|
| ChatGPT Atlas | OpenAI | Vulnérable | Atténuations en cours de développement (mode surveillance). Pas de patch définitif. |
| Comète | IA de perplexité | Partiellement corrigé | La mise à jour v3.1.5 est publiée, mais la communauté de sécurité indique qu'elle ne résout pas le problème racine. |
| Opéra Néon | Logiciel Opéra | Vulnérable | Identifié comme sensible ; aucune déclaration officielle sur des correctifs spécifiques. |
| Microsoft Edge (copilote) | Microsoft | En recherche | Potentiellement vulnérable par nature, mais sans rapports publics faisant état d’une exploitation massive. |
À ce stade, tout indique que les différents développeurs de navigateurs IA devront agir au plus vite en la matière pour protéger leurs utilisateurs.