LTM BlueVerse AgenTraceIQ annule les actions des agents IA
LTM a présenté BlueVerse AgenTraceIQ, un service destiné aux entreprises qui veulent faire tourner des agents IA en production. Il leur permet d'observer ce que font ces agents, de limiter ce à quoi ils peuvent accéder et d'annuler des modifications lorsqu'un agent agit d'une manière que personne n'avait prévue.
L'offre repose sur Rubrik Agent Cloud. LTM y ajoute son propre travail en gouvernance de l'IA ainsi que des services managés. Rubrik se présente comme une "Security and AI Operations Company" et est surtout connue pour la sauvegarde et la restauration de données.
Une brique du Project Hourglass de Rubrik
Le lancement s'inscrit dans le Project Hourglass de Rubrik. Dans le cadre de ce programme, LTM et d'autres grands intégrateurs mondiaux (Global Systems Integrators), des sociétés de conseil qui conçoivent et pilotent des projets informatiques pour de grandes entreprises, travaillent avec Rubrik pour proposer Rubrik Agent Cloud pour Claude Code d'Anthropic à leurs clients.
Selon les entreprises, l'objectif est de fournir aux organisations la sécurité, la gouvernance et la résilience dont elles ont besoin avant de déployer des systèmes agentiques à grande échelle.
"Alors que les agents IA agissent de plus en plus de manière autonome, les enjeux pour la sécurité et la résilience des entreprises n'ont jamais été aussi élevés", a déclaré Alok Agrawal, Chief Solutions Officer chez Rubrik. Selon lui, le partenariat doit aider les organisations à passer d'une gestion des risques réactive à une approche proactive, afin qu'elles puissent "innover rapidement avec l'IA sans compromettre leur intégrité opérationnelle".
Visibilité, garde-fous et retour en arrière
Le produit combine trois éléments : l'observabilité des agents, la gouvernance et la résilience.
Côté observabilité, il suit en continu l'activité des agents. Il rattache chaque action d'un agent au prompt, au plan et aux appels d'outils qui en sont à l'origine. Selon LTM, cela rend le comportement des agents plus facile à expliquer et à auditer, et aide les équipes à remonter à la cause d'un problème.
Pour la gouvernance, la plateforme applique des contrôles fondés sur des politiques et un accès zero trust. Autrement dit, les agents n'obtiennent que les accès qui leur ont été explicitement accordés. C'est important à mesure que les agents obtiennent des droits plus étendus dans les systèmes des entreprises. Des recherches antérieures ont montré que les agents IA peuvent conserver l'accès aux données une fois leurs tâches terminées.
Le volet résilience, c'est la fonction de retour en arrière. Si un agent effectue une modification involontaire ou destructrice, le service peut restaurer les systèmes, les données, les configurations et les dépôts concernés.
BlueVerse AgenTraceIQ fonctionne avec plusieurs grands écosystèmes d'agents :
- Microsoft Copilot Studio
- Salesforce Agentforce
- Amazon Bedrock
- Anthropic Claude
- des frameworks développés sur mesure
Des services autour de l'outil
LTM associe aussi à la technologie du conseil et de l'exploitation. L'offre comprend des AI Resilience Assessments, du Governance Framework Design, des Deployment & Integration Services et des Managed Governance Operations. Selon l'entreprise, ces services doivent aider les clients à bâtir des modèles opérationnels pour l'IA agentique, à mieux se préparer à la conformité et à gagner en certitude opérationnelle.
"Les organisations doivent pouvoir comprendre le comportement des agents, établir les responsabilités et réagir rapidement lorsque des résultats inattendus surviennent", a déclaré Krishnan Iyer, Chief Growth Officer chez LTM. Il a ajouté que l'offre vise à faire passer les entreprises "de l'expérimentation à des opérations d'IA fiables et à l'échelle de la production".
Notre analyse
Ce discours reflète un changement dans la façon dont les éditeurs parlent des agents IA. L'attention se déplace de ce que les agents savent faire vers ce qui se passe quand ils se trompent. La fonction de retour en arrière est l'élément marquant. Elle traite les erreurs d'agents un peu comme un rançongiciel ou une mauvaise modification de configuration : quelque chose dont on se remet, et pas seulement quelque chose qu'on prévient. Cela colle à l'historique de Rubrik dans la sauvegarde et la restauration.
C'est important, car les agents provoquent déjà de vrais incidents. Ces dernières semaines, nous avons couvert des cas comme l'intrusion chez DIVD menée par un agent IA autonome. Le risque n'a plus rien de théorique. Relier les actions aux prompts et aux appels d'outils pourrait aussi faciliter les audits, alors que les régulateurs s'intéressent de plus en plus à la responsabilité en matière d'IA.
Certaines questions restent ouvertes. Il faudra voir à quel point le retour en arrière est réellement précis dans des environnements complexes. Annuler des modifications sur des systèmes interconnectés se fait rarement proprement. Il sera aussi révélateur de voir si d'autres intégrateurs du Project Hourglass lancent des offres concurrentes, et si les clients adoptent ces contrôles avant un incident plutôt qu'après.