استفاده مهاجمان از فریم‌ورک‌های هوش مصنوعی چندعاملی
گروه هوش تهدیدات گوگل (GTIG) اعلام کرده است که طی سه ماه گذشته، عوامل تهدید سایبری استفاده از مدل‌های زبانی بزرگ (LLM) را از تعاملات ساده و مبتنی بر پرامپت فراتر برده و قابلیت‌های هوش مصنوعی را در بخش‌های مختلف چرخه حمله به کار گرفته‌اند.
به گفته GTIG، اگرچه عوامل تهدید سال‌ها از خودکارسازی مبتنی بر اسکریپت در عملیات خود استفاده کرده‌اند، اما گروه‌های مهاجم اکنون این روش‌ها را توسعه داده و فریم‌ورک‌های هوش مصنوعی را برای اجرای خودکارتر و هوشمندتر عملیات به کار می‌گیرند.
نتیجه این روند، شکل‌گیری سامانه‌هایی با سطح بالایی از خودمختاری است که می‌توانند وظایف پیچیده را به‌صورت مستقل انجام دهند و بدون نظارت مستقیم انسان، متناسب با شرایط، تصمیم‌گیری کنند.
اجرای کمپین سرقت گسترده اعتبارنامه‌ها در کمتر از 6 ساعت
یک مهاجم با انگیزه مالی پس از نفوذ به زیرساخت ابری یک سازمان، یک فریم‌ورک چندعاملی خودمختار را در این محیط مستقر کرد. این فریم‌ورک به مهاجم امکان داد بخش‌های مختلف یک کمپین گسترده سرقت اعتبارنامه را با دخالت حداقلی نیروی انسانی مدیریت کند.
این مهاجم با کمک یک چت‌بات کدنویسی مبتنی بر هوش مصنوعی، یک پرامپت و مجموعه‌ای از دستورالعمل‌های مربوط به عامل‌های هوش مصنوعی که در قالب مارک‌داون (Markdown) ارائه شده بودند، توانست در کمتر از 6 ساعت این کمپین گسترده سرقت اعتبارنامه را طراحی و راه‌اندازی کند. در این حمله، فریم‌ورک‌های هوش مصنوعی وظایف مختلف را میان عامل‌های هوش مصنوعی تقسیم و هماهنگ کردند؛ در نتیجه، بخش‌هایی از عملیات مانند شناسایی و جمع‌آوری اعتبارنامه‌ها و مدیریت فرآیند حمله، بدون دخالت مستقیم مهاجم انجام شد.
عامل‌های هوش مصنوعی در این عملیات، مدیریت بخش‌های مختلف حمله را بر عهده داشتند و می‌توانستند:
- پایپ‌لاین اسکن آسیب‌پذیری‌ها را مدیریت کنند.
- هزاران اعتبارنامه متعلق به سرویس‌ها و سامانه‌های شخص ثالث را سرقت کنند.
- خطاهای ایجادشده در فرآیند حمله را به‌صورت لحظه‌ای برطرف کنند.
- آدرس‌های IP را به‌صورت دوره‌ای تغییر دهند.
- برای فرار از شناسایی، ترافیک حمله را از زیرساخت‌های ابری قانونی و هک‌شده عبور دهند.
این میزان از خودکارسازی باعث شد عملیات با دخالت بسیار کمتری از سوی مهاجم انجام شود و حمله با سرعت بیشتری پیش برود. در نتیجه، تیم‌های امنیتی زمان کمتری برای شناسایی حمله و مقابله با آن داشتند.
فریم‌ورک Recon و سرقت هزاران اعتبارنامه
در نمونه‌ای دیگر، پژوهشگران یک سرور فرماندهی و کنترل (C2) را شناسایی کردند که به‌صورت ناخواسته در دسترس قرار گرفته بود و فریم‌ورک خودکاری با نام Recon روی آن اجرا می‌شد. این فریم‌ورک برای شناسایی و مدیریت اعتبارنامه‌های سرقت‌شده طراحی شده بود.
فایل‌های موجود در این فریم‌ورک شامل دستورالعمل‌های مربوط به عامل‌های هوش مصنوعی، فایل‌های حاوی اطلاعات موردنیاز این عامل‌ها و آرتیفکت‌های مرتبط با OpenClaw بود. Recon در هر لحظه بیش از 23,800 داده‌های حساس سرقت‌شده را در اختیار داشت که کلیدهای API نیز در میان آن‌ها بودند.
این نمونه نشان می‌دهد که فریم‌ورک‌های هوش مصنوعی می‌توانند حجم زیادی از داده‌های سرقت‌شده را به‌صورت مداوم پردازش و سازمان‌دهی کنند و در نتیجه، نیاز به دخالت مستقیم اپراتور انسانی را کاهش دهند.
استفاده از فریم‌ورک‌های هوش مصنوعی در عملیات جاسوسی سایبری
گروه هوش تهدیدات گوگل (GTIG) نمونه‌های دیگری از استفاده مهاجمان از هوش مصنوعی در عملیات سایبری را نیز بررسی کرده است. در یکی از این موارد، یک گروه جاسوسی سایبری مرتبط با چین، ابزارهای توسعه مبتنی بر هوش مصنوعی را به‌صورت آزمایشی به کار گرفت تا یک پایپ‌لاین خودکار برای اکسپلویت و اقدامات پس از نفوذ ایجاد کند.
همچنین پژوهشگران اعلام کردند گروه جاسوسی دیگری با نام UNC5792 که در روسیه فعالیت می‌کند، از مدل‌های هوش مصنوعی برای خودکارسازی ربات‌های مانیتورینگ استفاده کرده است. این ربات‌ها کانال‌های تلگرام را به‌صورت خودکار بررسی می‌کردند تا اطلاعات مرتبط با منافع و اهداف اطلاعاتی دولت روسیه را شناسایی و جمع‌آوری کنند.
این نمونه‌ها نشان می‌دهند فریم‌ورک‌های هوش مصنوعی فقط برای سرقت اعتبارنامه‌ها به کار نمی‌روند و می‌توانند در بخش‌های مختلف عملیات سایبری، از شناسایی و سوءاستفاده از آسیب‌پذیری‌ها گرفته تا جمع‌آوری اطلاعات، مورد استفاده قرار گیرند.
افزایش استفاده مخرب از هوش مصنوعی
با وجود افزایش استفاده مهاجمان از قابلیت‌های هوش مصنوعی، گروه هوش تهدیدات گوگل (GTIG) تأکید کرده است که هک کاملاً خودمختار هنوز به روشی رایج در میان گروه‌های تهدید تبدیل نشده است.
پژوهشگران تاکنون هیچ موردی را شناسایی نکرده‌اند که مهاجمان در آن با استفاده از پایپ‌لاین‌های کاملاً خودمختار، آسیب‌پذیری‌های روزصفر (Zero-Day) را شناسایی کرده و از آن‌ها برای نفوذ به شبکه‌های واقعی و حمله به اهداف مشخص استفاده کرده باشند.
با این حال، روند فعلی نشان می‌دهد فریم‌ورک‌های هوش مصنوعی به مهاجمان امکان می‌دهند بخش‌های بیشتری از عملیات سایبری را خودکار کنند و مراحل مختلف زنجیره حمله را با دخالت کمتر انسان پیش ببرند.
همچنین گوگل اعلام کرده است که مدل هوش مصنوعی جمنای (Gemini) بسیاری از فعالیت‌های مخرب را در مراحل اولیه شناسایی کرده و مطابق پروتکل‌های ایمنی به آن‌ها واکنش نشان داده است. گوگل با تکیه بر این قابلیت، اقدامات مؤثرتری برای مقابله با این فعالیت‌ها انجام داده و با مختل کردن کمپین‌های مخرب، حساب‌های کاربری مرتبط با آن‌ها را نیز مسدود کرده است.
با این حال، استفاده مخرب از ابزارهای هوش مصنوعی به این موارد محدود نمی‌شود. پژوهشگران نمونه‌هایی از استفاده از این ابزارها در حملات زنجیره تأمین توسط گروه UNC6780 (TeamPCP)، تلاش برای استخراج قابلیت‌های مدل هوش مصنوعی جمنای با استفاده از 100 میلیون پرامپت و همچنین بازار رو‌به‌رشد فروش اعتبارنامه‌های سرقت‌شده حساب‌های هوش مصنوعی و کلیدهای API را نیز شناسایی کرده‌اند.
گروه‌های تحت حمایت دولت‌ها نیز همچنان از هوش مصنوعی در طیف گسترده‌ای از فعالیت‌ها، از جمله شناسایی، فیشینگ، توسعه بدافزار، سوءاستفاده از آسیب‌پذیری‌ها، اقدامات پس از نفوذ، پردازش داده‌ها و عملیات تبلیغاتی استفاده می‌کنند.
