Felix Reportتقارير وأخبار مستقلة

كاتو تفتح تحديا لوكلاء الذكاء الاصطناعي لاختبار محدد لادعاءاتها الأمنية

رسم تصوري لرموز وكلاء زرقاء داخل حاجز شفاف ووثائق تقترب منه.

تعرض شركة الأمن السيبراني التي تأسست في إسرائيل ثلاث جوائز بقيمة 10 آلاف دولار للنتائج التي تستوفي شروط بيئة الاختبار. المسابقة تختبر مسار عمل محددا، ولا تثبت حماية كل وكيل يعمل داخل مؤسسة.

فتحت كاتو نتووركس تحدي AgentSense في 17 نوفمبر عند الساعة 15:30 بتوقيت إسرائيل. وتدعو المشاركين إلى اختبار إمكان تغيير مسار وكيل ذكاء اصطناعي عبر محتوى يقرأه. يتزامن التحدي مع إعلان الشركة عن تقنية تقول إنها تهدف إلى إيقاف الأفعال الضارة للوكلاء قبل تنفيذها.

التمييز الأساسي هنا هو بين الادعاء والتجربة. تصف كاتو نظاما يتتبع تأثير المحتوى غير الموثوق في سلوك الوكيل. ويمنح التحدي المشاركين المؤهلين بيئة محددة لاختبار هذه الفكرة، لكنه لا يقدم معدل نجاح قيس بصورة مستقلة في أنظمة العملاء.

الاختبار داخل بيئة محددة

توضح >صفحة التحدي الرسمية (يُفتح في علامة تبويب جديدة) ضرورة إكمال المستويين: مساعد محادثة ووكيل للبرمجة. وتشترط أن تنجح المحاولات المؤهلة مع تشغيل AgentSense. وتنص القواعد على استخدام بيانات خيالية، وعلى قصر الاختبار على البيئة المعزولة المخصصة للمشارك. ولا تمنح إذنا لاختبار البنية التشغيلية لكاتو أو أنظمة أطراف أخرى.

يمكن لأول ثلاثة مشاركين مؤهلين يحققون النجاح الحصول على 10 آلاف دولار لكل منهم، بعد اعتماد كاتو للنتيجة. وينتهي التحدي في 8 ديسمبر عند الساعة السابعة صباحا بتوقيت إسرائيل. توجد شروط تتعلق بالعمر والدولة وغيرها؛ والنجاح التقني الظاهر لا يعني وحده تأكيد استحقاق الجائزة.

صلاحية التنفيذ لا تحدد التعليمات الصحيحة

تقول كاتو في إعلان المنتج إن الوكيل قد يمتلك صلاحيات صحيحة، لكنه ينفذ فعلا خارج المهمة التي قصدها المستخدم. فقد تتضمن رسالة بريد أو وثيقة معلومات يحتاج إليها، إلى جانب تعليمات لا ينبغي أن تتحكم فيه. وبحسب الشركة، يميز AgentSense بين الدورين ويمنع الأفعال غير الآمنة المرتبطة بتأثير محتوى غير موثوق.

هذا وصف الشركة لنهجها، وليس دليلا على كشف كل تعليمات مخفية أو على عدم تعطيل العمل المشروع مطلقا. تحتاج هذه المسائل إلى اختبار في مسار العمل المعني، بما يشمل التعامل مع المستندات العادية والأفعال المسموح بها.

ما يبقى بحاجة إلى تقييم

تصف كاتو أيضا قدرة على كشف الانحراف عن المهمة بصيغة المستقبل، بهدف التعرف على الأفعال التي تبتعد عن الطلب الأصلي. ولهذا الفرق أهمية عند المقارنة بين ما تقول الشركة إن الحماية الحالية تفعله، وما تنوي أن تفعله قدرة إضافية. الإعلان لا يبرر التعامل مع خارطة التطوير كلها بوصفها وظائف منشورة بالفعل.

بالنسبة إلى المؤسسات التي تدرس استخدام الوكلاء، يطرح الإطلاق سؤالا عمليا للتقييم: هل يمكن ربط الفعل المسموح بالمهمة التي بررت تنفيذه؟ قد ينتج التحدي أمثلة مفيدة، لكن نتائجه ستظل مرتبطة ببيئته وقواعد التحكيم فيه. ويظل على المشترين فحص نطاق النشر والسلوك التشغيلي ونتائج اختباراتهم المصرح بها قبل استخلاص أحكام أوسع.