هوش مصنوعی صنعت فناوری را دگرگون کرده و این تحول، اکوسیستم جرایم سایبری را نیز بهطور مستقیم تحت تأثیر قرار داده است. اکنون مهاجمان با تکیه بر هوش مصنوعی مولد (Generative AI)، تاکتیکها، تکنیکها و متدهای عملیاتی خود (TTPs) را بهینهسازی میکنند تا حملاتی سریعتر، مقیاسپذیرتر و پنهانتر اجرا شود.
برخلاف تصور رایج، هوش مصنوعی مولد الزاماً منجر به خلق جرایم سایبری کاملاً جدید نشده، بلکه با افزایش بهرهوری، خودکارسازی عملیات و کاهش موانع فنی، اجرای حملات سنتی را در مقیاسی بیسابقه تسهیل کرده است.
به گفته Peter Garraghan، مدیرعامل شرکت امنیتی Mindgard:
«اگر کاربران عادی میتوانند با هوش مصنوعی فرآیند عملیاتی خود را سریعتر و کمهزینهتر انجام دهند، دلیلی وجود ندارد که مجرمان سایبری از این مزیت بهره نبرند.»
با ظهور Agentic AI، تهدیدات وارد فاز تازهای شدهاند؛ جایی که AI دیگر صرفاً یک ابزار کمکی نیست، بلکه قادر است بخشهایی از زنجیره حمله را بهصورت مستقل طراحی و اجرا کند. در ادامه، 13 روش کلیدی سوءاستفاده مهاجمان از هوش مصنوعی مولد را بررسی میکنیم.
1. فیشینگ پیشرفته و شخصیسازیشده
هوش مصنوعی مولد (GenAI) امکان تولید ایمیلهای فیشینگ کاملاً طبیعی، متقاعدکننده و بدون خطا را فراهم میکند و احتمال افشای اطلاعات حساس یا دانلود بدافزار را افزایش میدهد.
قابلیتهای کلیدی
- جمعآوری داده از شبکههای اجتماعی برای هدفگیری دقیق
- تحلیل عملکرد گیرندگان و نرخ باز شدن ایمیلها
- بهینهسازی خودکار محتوا، عنوان و زمان ارسال ایمیلها
نتیجه
استفاده از AI باعث افزایش چشمگیر موفقیت کمپینهای فیشینگ شده و تشخیص ایمیلهای مخرب را برای کاربران و سیستمهای امنیتی دشوار میکند.
2. تسهیل توسعه بدافزار
هوش مصنوعی مولد به مهاجمان اجازه میدهد بدافزارهای پیشرفته و کمزحمتتر را سریعتر طراحی و پیادهسازی کنند.
نمونههای عملی
- گزارش HP Wolf Security 2025 Threat Insights نشان میدهد که حملاتی مانند XWorm که از HTML smuggling برای دانلود و اجرای بدافزار استفاده میکنند، نشانههایی از توسعه با کمک AI دارند.
- طراحی صفحات HTML مخرب تقریباً با خروجی تولیدشده توسط مدل ChatGPT مشابهت دارد و نشاندهنده استفاده از AI در تولید کد مخرب است.
- گروه باجافزاری FunkSec از توسعه بدافزار با کمک AI برای تولید و بهینهسازی ابزارهای پیشرفته استفاده کرده است.
نتیجه
استفاده از AI در توسعه بدافزار باعث میشود حتی مهاجمان کمتجربه بتوانند ابزارهای پیچیده و قابل اطمینان تولید کنند و فرآیند ساخت و استقرار بدافزار را سریعتر و دقیقتر انجام دهند.
3. تسریع شناسایی آسیبپذیری و توسعه اکسپلویت
طبق گزارش شرکت ReliaQuest، میانگین زمان بین شناسایی آسیبپذیری و بهرهبرداری از آن توسط مهاجمان از 47 روز به تنها 18 روز کاهش یافته است که تسریع بیسابقه فرآیند اکسپلویت به کمک هوش مصنوعی مولد را نشان میدهد.
قابلیتهای AI در شناسایی و بهرهبرداری از آسیبپذیریها
- اسکن و تحلیل خودکار شبکهها
- تولید اسکریپتهای افزایش سطح دسترسی (Privilege Escalation)
- تحلیل نتایج اسکن و شناسایی نقاط ضعف
- پیشنهاد بهینهترین اکسپلویتها برای بهرهبرداری سریع و دقیق
نتیجه
استفاده از AI باعث سرعت بخشیدن به مراحل کلیدی زنجیره حمله (Kill Chain) و کاهش چشمگیر زمان دستیابی به سیستمهای آسیبپذیر شده است و مهاجمان را قادر میسازد با دقت و سرعت بیشتر از آسیبپذیریها بهرهبرداری کنند.
4. جاسوسی سایبری خودکار
هوش مصنوعی مولد میتواند کمپینهای جاسوسی سایبری پیچیده را بهصورت خودکار اجرا کند و بخش بزرگی از عملیات را بدون دخالت انسان انجام دهد.
جزئیات عملیاتی
- Anthropicدر سال 2025 اعلام کرد که یک کمپین پیشرفته جاسوسی سایبری با استفاده از Claude Code حدود 80 درصد فعالیتها را خودکار کرده بود.
- پژوهشگران CyLab Security & Privacy Institute نشان دادند که LLMها مانند GPT-4o میتوانند حملات پیچیده را بهصورت مستقل برنامهریزی و اجرا کنند.
نتیجه
AI میتواند به یک سیستم خودکار و مستقل برای جاسوسی سایبری تبدیل شود و سازمانها باید تهدیدات AI-driven را جدی بگیرند.
5. توسعه LLMهای بدون محدودیت
مهاجمان سایبری LLMهای اختصاصی خود را توسعه دادهاند، از جمله:
- WormGPT
- FraudGPT
- DarkBERT
نتیجه
این مدلها بدون محدودیتهای حفاظتی طراحی شدهاند و امکان حملات هدفمند، سریع و گسترده را فراهم میکنند.
6. LLMjacking و سرقت منابع ابری
مهاجمان با سرقت کلیدهای API و منابع ابری، LLMها را برای استفاده شخصی یا فروش دسترسی تصاحب میکنند؛ این تاکتیک با نام LLMjacking شناخته میشود.
نتیجه
LLMjacking بهرهبرداری سریع و مؤثر از LLMها را ممکن کرده و سطح تهدیدات سایبری را افزایش میدهد.
7. بازار خودکار AI Agentها به سبک Silk Road
مهاجمان با AI Agentهای خودکار، عملیات جاسوسی و بدافزاری را هماهنگ و خودکار میکنند.
نمونه واقعی: Molt Road، بازاری به سبک Dark Web برای AI Agentها است که امکان ایجاد فهرست، فروش دسترسی و اجرای تراکنش با حداقل دخالت انسانی را فراهم میکند.
نتیجه
این مدل باعث افزایش سرعت و دامنه حملات سایبری مبتنی بر AI میشود.
8. دور زدن احراز هویت
ابزارهای هوش مصنوعی مولد میتوانند برای دور زدن مکانیزمهای امنیتی مانند CAPTCHA و احراز هویت بیومتریک سوءاستفاده شوند.
به گفته شرکت امنیت سایبری Dispersive:
«هوش مصنوعی قادر است سیستمهای CAPTCHA را شکست دهد و احراز هویت صوتی را تحلیل و کنترل کند.»
نتیجه
سازمانها باید لایههای امنیتی پیشرفته و چندمرحلهای را برای محافظت از دسترسیها و هویت کاربران پیادهسازی کنند.
9. سوءاستفاده از دیپفیک در مهندسی اجتماعی
مهاجمان از دیپفیکهای AI برای حملات صوتی و ویدیویی استفاده کرده تا از اعتماد کارکنان سوءاستفاده کنند.
مثال: کارمند شرکت Arup بهخاطر یک تماس ویدیویی جعلی با CFO، تراکنشی 25.6 میلیون دلار را تأیید کرد.
نتیجه
سازمانها باید احراز هویت چندلایه و تشخیص جعل ویدیو و صدا را پیاده کنند.
10. جعل برند در کمپینهای تبلیغاتی مخرب
مهاجمان با استفاده از هوش مصنوعی مولد:
- صفحات تبلیغاتی جعلی میسازند.
- تبلیغات Google Ads جعلی ایجاد میکنند.
- برندهایی مانند Shopify را جعل میکنند.
نتیجه
هوش مصنوعی مولد امکان تولید سریع و گسترده محتوای تبلیغاتی جعلی را فراهم کرده است.
11. سوءاستفاده از OpenClaw
مهاجمان دستیاران AI شخصی مانند OpenClaw را هدف قرار میدهند.
نتیجه
این مسیر سرقت اطلاعات حساس و حملات خودکار را تسهیل میکند.
12. آلودهسازی حافظه مدلها
AI Agentها میتوانند تحت تاثیر دادههای آلوده تصمیمات آینده خود را تغییر دهند.
نمونه واقعی: Johann Rehberger سپتامبر 2025 نشان داد که چگونه میتوان حافظه ChatGPT را با اطلاعات جعلی آلوده کرد.
نتیجه
آلودهسازی حافظه مدلها یک بردار حمله جدید است که AI Agentها را به ابزار استخراج داده و اجرای دستورات مخرب تبدیل میکند.
13. حمله به زیرساخت هوش مصنوعی
مهاجمان زیرساختهای AI را هدف قرار میدهند و از روشهای مختلف برای کنترل و نفوذ به سیستمها بهره میبرند:
- آلودهسازی ابزارها (Tool poisoning): قرار دادن دستورالعملهای مخرب در ابزارهای AI که توسط Agent اجرا میشوند.
- دستکاری زنجیره تأمین (Supply chain compromise): تغییر یا آلوده کردن سرورها و وابستگیهای تأییدشده برای نفوذ به سیستمها.
- استخراج داده بین ابزارها (Cross-tool exfiltration): سرقت دادههای حساس در جریان کاری Agent بدون ایجاد ردپا.
نتیجه
مهاجمان با هدفگیری زیرساختها، کنترل سیستمها و دادههای حیاتی سازمانها را در مقیاس وسیع به دست میآورند.
جمعبندی و راهکارها
هوش مصنوعی مولد ابزار قدرتمندی در دستان مهاجمان است، اما هنوز اکسپلویت کامل آسیبپذیریها بدون دخالت انسان رخ نمیدهد.
راهکارهای پیشنهادی:
- مانیتورینگ فعالیتهای AI و API
- مدیریت دسترسیها و کلیدها با حداقل دسترسی
- استفاده از AI برای تشخیص و خنثیسازی تهدیدات بلادرنگ
- تقویت لایههای امنیتی شامل MFA، مقابله با دیپفیکها و کنترل دسترسی به منابع حیاتی
