Felix ReportUnabhängige Berichte und Nachrichten

Cato startet KI-Agenten-Wettbewerb mit klar begrenztem Prüfumfang

Konzeptbild blauer Agentensymbole hinter einer transparenten Grenze mit herannahenden Dokumenten.

Das in Israel gegründete Sicherheitsunternehmen bietet drei Preise von jeweils 10.000 Dollar für regelkonforme Ergebnisse in einer Testumgebung. Der Wettbewerb prüft einen bestimmten Ablauf, nicht den Schutz jedes produktiv eingesetzten Agenten.

Cato Networks hat seine AgentSense-Challenge am 17. November um 15:30 Uhr israelischer Zeit eröffnet. Teilnehmende sollen prüfen, ob sich ein KI-Agent durch Inhalte umleiten lässt, die er liest. Der Wettbewerb begleitet die Ankündigung einer Technologie, die nach Angaben des Unternehmens schädliche Agentenaktionen vor ihrer Ausführung stoppen soll.

Entscheidend ist der Unterschied zwischen Aussage und Versuch. Cato beschreibt ein System, das den Einfluss nicht vertrauenswürdiger Inhalte auf das Verhalten eines Agenten verfolgt. Der Wettbewerb bietet zugelassenen Teilnehmenden einen begrenzten Rahmen, um diesen Ansatz zu prüfen. Eine unabhängig gemessene Erfolgsquote in Kundensystemen liefert er nicht.

Der Test bleibt in der zugewiesenen Umgebung

Die >offizielle Wettbewerbsseite (öffnet in einem neuen Tab) verlangt den Abschluss beider Stufen: eines Chat-Assistenten und eines Programmieragenten. Ein qualifizierender Versuch muss bei eingeschaltetem AgentSense erfolgreich sein. Die Regeln sehen fiktive Daten vor und begrenzen Tests auf die zugewiesene Sandbox. Sie erlauben keine Versuche gegen Catos produktive Infrastruktur oder Systeme Dritter.

Die ersten drei berechtigten Teilnehmenden, die die Anforderungen erfüllen, können nach Prüfung durch Cato jeweils 10.000 Dollar erhalten. Die Frist endet am 8. Dezember um 7 Uhr israelischer Zeit. Es gelten Voraussetzungen zu Alter, Land und weiteren Umständen. Ein scheinbar erfolgreicher technischer Versuch ist deshalb noch keine bestätigte Preisvergabe.

Eine Berechtigung macht nicht jede Anweisung richtig

In seiner Produktankündigung erläutert Cato, dass ein Agent gültige Zugriffsrechte besitzen und dennoch außerhalb des Nutzerauftrags handeln kann. Eine E-Mail oder ein Dokument kann benötigte Informationen enthalten, zugleich aber auch Anweisungen, die den Agenten nicht steuern sollten. Laut Unternehmen trennt AgentSense diese Rollen und blockiert unsichere Aktionen, die mit nicht vertrauenswürdigem Einfluss zusammenhängen.

Das ist die Beschreibung des Anbieters. Sie belegt weder, dass jede versteckte Anweisung erkannt wird, noch, dass legitime Arbeit niemals unterbrochen wird. Dafür sind Tests im jeweiligen Arbeitsablauf erforderlich, einschließlich des Umgangs mit gewöhnlichen Dokumenten und erlaubten Aktionen.

Welche Fragen offenbleiben

Cato beschreibt außerdem eine Funktion zur Erkennung von Abweichungen in der Zukunftsform. Diese soll Aktionen erkennen, die vom ursprünglichen Auftrag abweichen. Bei der Bewertung ist daher zu unterscheiden, was die derzeitige Schutzfunktion laut Anbieter leistet und was eine zusätzliche Funktion künftig leisten soll. Die gesamte Entwicklungsplanung darf nicht als bereits ausgerolltes Produkt behandelt werden.

Für Organisationen, die Agenten einsetzen möchten, ergibt sich eine konkrete Prüffrage: Lässt sich eine erlaubte Aktion mit dem Auftrag verbinden, der sie rechtfertigt? Der Wettbewerb kann aufschlussreiche Beispiele liefern. Seine Ergebnisse bleiben jedoch an die vorgegebene Umgebung und die Bewertungsregeln gebunden. Kaufinteressierte müssen weiterhin Einsatzumfang, Betriebsverhalten und Belege aus eigenen autorisierten Tests untersuchen, bevor sie weitergehende Schlüsse ziehen.