ظهور نسل جدید مدلهای زبانی بزرگ (LLM) مانند Claude Mythos از شرکت Anthropic و GPT‑5.5 از OpenAI باعث شکلگیری بحثهای گستردهای در جامعه امنیت سایبری شده است. بسیاری از کارشناسان معتقدند که این فناوریها میتوانند آغازگر دورهای از امنیت تهاجمی مبتنی بر Agent باشند؛ دورهای که در آن شناسایی آسیبپذیری، تولید اکسپلویت و اجرای زنجیرههای حمله میتواند بهصورت خودکار و در مقیاس صنعتی انجام شود. در چنین سناریویی، امنیت تهاجمی مبتنی بر Agent میتواند تهدیدی ساختاری برای سازمانها ایجاد کند؛ تهدیدی که به باور برخی، قدرتی در حد سلاحهای سایبری با اثرگذاری هستهای دارد.
با این حال، Ari Herbert‑Voss مدیرعامل RunSybil و از نخستین اعضای تیم امنیتی OpenAI معتقد است که تصویر ارائهشده از آینده شاید بیش از حد اغراقآمیز باشد. به گفته او، اگرچه مدلهای هوش مصنوعی سرعت شناسایی و تحلیل آسیبپذیریها را بهشدت افزایش دادهاند، اما هنوز محدودیتهای انسانی نقش تعیینکنندهای در موفقیت حملات و دفاعها ایفا میکنند.
امنیت تهاجمی مبتنی بر Agent به موضوع داغ امنیت سایبری تبدیل شده است
Herbert‑Voss در سخنرانی خود در Black Hat Asia در سنگاپور توضیح داد که واکنش صنعت امنیت به LLMها شباهت زیادی به واکنش آن در برابر فازینگ (Fuzzing) در دهه 2000 دارد. در آن زمان نیز بسیاری تصور میکردند که ابزارهای فازینگ میتوانند فرآیند شناسایی آسیبپذیری را کاملاً خودکار کنند و پژوهشگران امنیتی را از چرخه خارج سازند.
اما واقعیت متفاوت بود. فازینگ توانست تعداد بسیار زیادی باگ و کرش در نرمافزارها شناسایی کند، اما مشکل جدیدی به وجود آمد:
- انبوهی از یافتههای خام که نیاز به تحلیل انسانی داشتند.
به گفته Herbert‑Voss: «فازینگ قرار بود همهچیز را تغییر دهد. یک سیستم غیرانسانی میتوانست در مقیاس وسیع، کرشها را پیدا کند. اما در نهایت، کسی باید بررسی میکرد که کدام باگها واقعاً قابل بهرهبرداری هستند.»
او معتقد است که دقیقاً همین الگو اکنون در حوزه امنیت تهاجمی مبتنی بر Agentدر حال تکرار است.
افزایش سرعت شناسایی آسیبپذیریها و چالشهای آن
یکی از مهمترین مفاهیمی که Herbert‑Voss به آن اشاره کرد فرضیه مقیاسپذیری (Scaling Hypothesis) در مدلهای هوش مصنوعی است. این فرضیه بیان میکند که با افزایش دادههای آموزشی، پارامترها و توان محاسباتی، عملکرد مدلها در طیف وسیعی از وظایف به شکل قابلتوجهی بهبود مییابد.
به گفته او، در سالهای اخیر این رشد حتی به صورت فوقخطی افزایش یافته است. به این معنی که اگر مدلی دو برابر بزرگتر، دو برابر طولانیتر و با دو برابر داده آموزش ببیند، ممکن است چهار برابر قدرتمندتر شود.
نتیجه این روند در حوزه امنیت تهاجمی مبتنی بر Agent بسیار محسوس بوده است. بر اساس دادههایی که در سخنرانی ارائه شد، زمان میان شناسایی یک باگ تا بهرهبرداری عملی از آن از حدود پنج ماه در سال 2023 به تنها 10 ساعت در سال 2026 کاهش یافته است.
این تحول بهویژه در مسابقات فتح پرچم (CTF) کاملاً قابل مشاهده است؛ چالشهایی که پیشتر برای حل به ساعتها زمان نیاز داشتند، اکنون با کمک ابزارهای کدنویسی Agent محور در عرض چند دقیقه حل میشوند.
محدودیتهای امنیت تهاجمی مبتنی بر Agent و نیاز به تحلیل انسانی
با وجود این پیشرفتها، Herbert‑Voss تأکید میکند که مدلهای هوش مصنوعی هنوز در ارزیابی دقیق تأثیر واقعی آسیبپذیریها محدودیتهای جدی دارند.
بر اساس آزمایشهایی که مؤسسه امنیت هوش مصنوعی بریتانیا (UK AI Security Institute) روی مدل Mythos انجام داده است، این مدل قادر است در محیطهای کنترلشده بخش قابل توجهی از زنجیرههای حمله چندمرحلهای را بهصورت خودکار اجرا کند، از جمله مواردی مانند:
- شناسایی هدف
- اجرای مراحل شناسایی (Reconnaissance)
- ترکیب چند اکسپلویت در یک زنجیره حمله
با این حال، Herbert‑Voss توضیح میدهد که این سیستمها هنوز در مواجهه با اهداف واقعی پایداری و دقت کافی ندارند. در یکی از آزمایشها، صدها داده و یافته خودکار تولید شد، اما در نهایت 198 مورد از نتایج نیازمند بررسی و تأیید انسانی بودند تا مشخص شود آیا واقعاً تأثیر امنیتی جدی دارند یا خیر.
مشکل اصلی این است که مدافعان سایبری باید به هر شناسایی آسیبپذیری واکنش نشان دهند، در حالی که مهاجمان تنها کافی است هر چند وقت یکبار شانس بیاورند و یک اکسپلویت مؤثر پیدا کنند.
این عدم تقارن یکی از مهمترین چالشهایی است که با گسترش امنیت تهاجمی مبتنی بر Agent برای سازمانها ایجاد میشود.
راهکارهای دفاع در عصر امنیت تهاجمی مبتنی بر Agent
Herbert‑Voss معتقد است که سازمانها برای مقابله با این روند باید زیرساختهای امنیتی خود را به سمت معماریهای AI‑Native سوق دهند. او چهار پیشرفت فنی کلیدی را برای تیمهای دفاعی مطرح میکند:
- بهبود قابلیت استدلال (Reasoning): بخش بزرگی از تحلیل امنیتی به استدلال عمیق وابسته است؛ اینکه یک سیستم چگونه کار میکند، چگونه ممکن است اختلال پیدا کند و چه پیامدی از یک عملکرد خاص حاصل میشود.
- بهبود قابلیت فراخوانی ابزارها (Tool Calling): Agentهای هوش مصنوعی باید بتوانند از ابزارهای واقعی برای بررسی آسیبپذیریها استفاده کنند؛ از اسکنرها گرفته تا ابزارهای تحلیل کد.
- مهندسی دقیق Harness: Agentها به یک بخش اجرایی نیاز دارند که زمینه و ابزارهای مناسب را در اختیار آنها قرار دهد.
- ایجاد سیستمهای دارای چندAgent: یک Agent منفرد توان محدودی دارد؛ اما چند Agent که بتوانند با یکدیگر ارتباط برقرار کنند میتوانند زنجیرههای پیچیدهتری از تحلیل و حمله را اجرا کنند.
چرا آینده میتواند هم تهدید باشد هم فرصت
با وجود نگرانیها، Herbert‑Voss معتقد است که این تحولات لزوماً به معنای فاجعه امنیتی نیست. فشار اقتصادی شدید در صنعت هوش مصنوعی باعث شده دسترسی به مدلهای قدرتمند بهطور مداوم افزایش یابد. این موضوع به همان اندازه که برای مهاجمان مفید است، برای مدافعان نیز فرصت ایجاد میکند.
او در پایان سخنرانی خود تأکید کرد که سرعت بالای پیشرفت هوش مصنوعی میتواند به سازمانها کمک کند تا:
- دفاع چندلایه قویتر ایجاد کنند.
- فرآیند تولید پچ را تسریع کنند.
- اقداماتی را انجام دهند که طی سالها باید انجام میشد اما به تعویق افتاده بود.
جمعبندی
پیشرفت سریع مدلهای زبانی بزرگ (LLM) بدون شک توازن قدرت در فضای امنیت سایبری را تغییر میدهد. امنیت تهاجمی مبتنی بر Agent در حال تبدیل شدن به یکی از مهمترین روندهای تکنولوژیک این حوزه است؛ روندی که میتواند سرعت شناسایی آسیبپذیری و توسعه اکسپلویت را بهطور چشمگیری افزایش دهد.
با این حال، همانطور که تجربه فازینگ نشان داد، تحلیل انسانی، اعتبارسنجی نتایج و درک عمیق سیستمها هنوز جایگزینناپذیر هستند. آینده امنیت سایبری احتمالاً نه کاملاً خودکار و نه کاملاً انسانی، بلکه ترکیبی از هر دو خواهد بود.
