پژوهش امنیت ناظر عامل کدنویسی؛ چالش حملات چندزمینه‌ای
آنتروپیک محدودیت ناظرهای عامل کدنویسی در برابر حملات چندزمینه‌ای را بررسی کرده است؛ نتایج این آزمون خصمانه چه می‌گویند و چه چیزی را ثابت نمی‌کنند؟
در این مقاله می‌خوانید ۲ بخش
تقسیم حمله میان چند زمینه؛ چالش ناظرها
پژوهش امنیت ناظر عامل کدنویسی آنتروپیک، منتشرشده در ۲۲ اکتبر ۲۰۲۶، نشان می‌دهد تقسیم حمله میان چند زمینه می‌تواند ناظرهای بررسی و مسدودسازی اقدامات عامل را دور بزند. این گزارش سامانه‌های متعلق به سپتامبر ۲۰۲۶ را بررسی می‌کند، نه لزوماً نسخه‌های فعلی آن‌ها.
پژوهشگران ناظر Auto Mode در Claude Code و یک پیاده‌سازی تقریبی از Guardian در Codex را مقابل عامل مهاجمی عمدتاً مبتنی بر Opus 5 آزموده‌اند. گزارش، علاوه بر حملات چندزمینه‌ای، تزریق دستور، شکاف پوشش ابزارها و نقص سیاست را بررسی می‌کند.
نکته مهم این است که مهاجم معمولاً از سازوکار ناظر و راهبرد حمله اطلاع داشته است؛ بنابراین نتایج این آزمون خصمانه را نباید نرخ خطر در استفاده عادی دانست.
بهبود آزمایشی، نه اعلام عرضه محصول
به‌گزارش آنتروپیک، نسخه آزمایشی Auto Mode ++ با بررسی ویرایش‌ها، مقاوم‌ترکردن قالب سابقه و نظارت عامل‌محور، موفقیت حمله را در ارزیابی خود شرکت بیش از ۵۰ واحد درصد کاهش داده است. هر خانه جدول نتایج دست‌کم ۶۰ اجرا دارد؛ این ارقام حاصل ارزیابی آنتروپیک‌اند، نه آزمون مستقل.
بااین‌حال، گزارش دفاع مقرون‌به‌صرفه در برابر حملات چندزمینه‌ای را مسئله‌ای حل‌نشده توصیف می‌کند. امنیت محیط ایزوله نیز در این پژوهش آزموده نشده است؛ پس یافته‌ها به معنای شکست کل سازوکار امنیتی Claude یا Codex نیستند. این صفحه همچنین عرضه عمومی Auto Mode ++ را اعلام نمی‌کند.
هنوز دیدگاهی منتشر نشده است. اولین نفر باشید.