Felix ReportReportages et actualités indépendants

Cato ouvre un défi pour agents IA, avec un périmètre de test bien délimité

Illustration de symboles d'agents bleus derrière une limite transparente, face à des documents.

L'entreprise de cybersécurité fondée en Israël propose trois récompenses de 10 000 dollars pour des résultats conformes aux règles de son bac à sable. Le concours éprouve un scénario précis, sans démontrer la protection de tous les agents en production.

Cato Networks a ouvert son défi AgentSense le 17 novembre à 15 h 30, heure d'Israël. Les participants sont invités à vérifier si un agent d'intelligence artificielle peut être détourné par les contenus qu'il consulte. Ce lancement accompagne l'annonce d'une technologie destinée, selon l'entreprise, à arrêter les actions dangereuses avant leur exécution.

Il faut distinguer la promesse de l'expérience. Cato décrit un système qui suit l'influence de contenus non fiables sur le comportement de l'agent. Le défi offre aux participants admissibles un environnement circonscrit pour éprouver cette approche. Il ne fournit pas un taux de réussite mesuré indépendamment dans les systèmes des clients.

Un essai limité à l'environnement prévu

La >page officielle du défi (s’ouvre dans un nouvel onglet) exige de réussir les deux niveaux, un assistant conversationnel et un agent de programmation. Pour être recevable, une tentative doit réussir avec AgentSense activé. Les règles portent sur des données fictives et limitent les essais au bac à sable attribué. Elles n'autorisent pas à tester l'infrastructure de production de Cato ni les systèmes de tiers.

Les trois premiers participants admissibles remplissant les conditions peuvent recevoir chacun 10 000 dollars, après validation par Cato. L'échéance est fixée au 8 décembre à 7 heures, heure d'Israël. Des critères d'âge, de pays et d'autres conditions s'appliquent. Un résultat apparemment concluant sur le plan technique ne constitue donc pas, à lui seul, une attribution de prix.

Une autorisation d'agir ne rend pas une instruction légitime

Dans son annonce, Cato explique qu'un agent peut disposer de droits valables tout en accomplissant une action étrangère à la tâche voulue par l'utilisateur. Un courriel ou un document peut contenir une information utile et, en même temps, des instructions qui ne devraient pas diriger l'agent. L'entreprise affirme qu'AgentSense distingue ces rôles et bloque les actions dangereuses liées à une influence non fiable.

Il s'agit de la description de son approche par le fournisseur. Elle ne prouve ni que toute instruction dissimulée sera détectée, ni que le travail légitime ne sera jamais interrompu. Ces points nécessitent des essais dans le processus concerné, avec des documents ordinaires et des actions autorisées.

Ce qui reste à évaluer

Cato décrit également au futur une capacité de détection des écarts, destinée à repérer les actions qui s'éloignent de la tâche initiale. La nuance compte lorsqu'on compare les fonctions revendiquées pour la protection actuelle à celles d'une capacité supplémentaire annoncée. Toute la feuille de route ne peut pas être considérée comme déjà déployée.

Pour une organisation qui envisage d'utiliser des agents, ce lancement pose une question concrète : peut-on relier une action autorisée à la tâche qui la justifie ? Le défi pourrait produire des exemples instructifs, mais ses résultats resteront liés à son environnement et à ses règles d'arbitrage. Les acheteurs devront encore examiner le périmètre de déploiement, le comportement opérationnel et les résultats de leurs propres essais autorisés avant de tirer des conclusions plus générales.