Uber rend open source son système de protection des agents IA ADR

Imaginez ce scénario : vous permettez aux développeurs d'utiliser des assistants de codage comme Claude Code ou Cursor. Les agents naviguent librement dans la console, exécutent des commandes, lisent des fichiers et appellent des API externes via le Model Context Protocol (MCP). Soudain, une injection de prompt indétectable se retrouve dans l'un des fichiers traités. L'agent lit l'instruction malveillante et envoie silencieusement des clés privées vers un serveur externe.

Uber a rencontré cette menace directement. Pour protéger les processus internes et les bots d'assistance client, les ingénieurs de l'entreprise ont créé le système ADR (Agentic AI Detection and Response). Les auteurs ont récemment rendu le projet open source sur GitHub et publié un article de recherche pour la conférence MLSys 2026.

De quoi se compose ADR

Uber utilise déjà ADR en production. Certains composants restent dans les dépôts internes de l'entreprise (par exemple, le moteur Prevention pour le blocage automatique des actions dangereuses et l'outil d'audit automatisé ADR Explorer). Cependant, la partie principale de l'architecture a été publiée sous licence Apache 2.0.

La partie open source du projet est divisée en trois blocs :

• Observabilité (Sensor). Collecte et applique un schéma unifié à la télémétrie de plus de 7 outils de développement populaires. Fonctionne sur macOS, Linux et Windows.
• Benchmark (ADR-Bench). Un environnement de test pour la validation de sécurité. Se compose de 303 tâches, 133 serveurs MCP et couvre 17 techniques d'attaque contre les agents autonomes.
• Détection (ADR Detector). Un module à deux niveaux pour la détection des menaces dans les journaux d'activité des agents.

Collecte de télémétrie sans attachement à un outil spécifique

Le principal défi dans le suivi des agents IA est la fragmentation des journaux. Cursor écrit les journaux dans un format, Claude Code dans un autre, et un bot interne de l'entreprise dans un troisième.

Le module Sensor récupère les événements bruts de chaque outil et les normalise vers un format commun. Il capture non seulement le texte des messages, mais aussi les chaînes d'intentions, les appels de fonctions spécifiques et les résultats d'exécution des commandes. Cela donne à l'équipe de sécurité un flux d'événements unifié quel que soit l'environnement dans lequel l'ingénieur travaillait.

Après cela, vous pouvez exécuter un scénario de test standard. Si vous n'avez pas de clés API sous la main ou si vous ne souhaitez pas dépenser des jetons, le projet inclut un mode de validation local léger :

Des instructions détaillées pour reproduire les graphiques et les métriques de l'article de recherche sont disponibles dans le fichier docs/REPRODUCIBILITY.md.

Qui devrait prêter attention à ce projet

Le dépôt a recueilli environ 650 étoiles jusqu'à présent, mais sa valeur pratique est immédiatement apparente. Contrairement à de nombreux cadres théoriques, ADR est né d'un besoin réel d'une grande entreprise pour sécuriser ses employés.

Le projet sera utile pour :

• Les spécialistes de la sécurité de l'information qui cherchent des moyens de contrôler l'utilisation des assistants IA au sein de l'entreprise.
• Les chercheurs qui ont besoin d'un benchmark prêt à l'emploi pour tester la sécurité des agents LLM.
• Les développeurs de leurs propres agents qui souhaitent étudier le schéma de collecte et de normalisation de la télémétrie.

Bien sûr, la version open source n'inclut pas encore le module de prévention automatique des attaques (Prevention). Mais même dans son état actuel, ADR fournit une excellente base pour construire un système de surveillance des outils IA au sein d'une équipe.