در سالهای اخیر، سوءاستفاده از سرویسهای هوش مصنوعی(AI services) به یکی از جدیترین تهدیدات امنیت سایبری تبدیل شده است. مهاجمان به جای اتکا به بدافزارهای سنتی، از ابزارهای AI مورداستفاده سازمانها برای افزایش بهرهوری و خودکارسازی عملیات سوءاستفاده میکنند. این روند، که با عنوان Living-off-the-AI-Land شناخته میشود، نشان میدهد که مجرمان میتوانند بدون استفاده از بدافزار کلاسیک، به دادهها و منابع حساس دسترسی پیدا کنند و امنیت سازمانها را به چالش بکشند.
با افزایش وابستگی سازمانها به دستیارهای هوشمند، مدلهای زبانی بزرگ (LLM) و AI Agentها، سوءاستفاده از سرویسهای هوش مصنوعی به یک بردار حمله حیاتی تبدیل شده است. در ادامه، به بررسی روشها و شیوههای نوین سوءاستفاده از سرویسهای هوش مصنوعی پرداخته میشود تا ابعاد واقعی تهدیدات این فناوری روشن شود.
1. جعل سرورهای MCP؛ نمونهای از سوءاستفاده از سرویسهای هوش مصنوعی
مهاجمان در سال 2025، یک سرور جعلی Model Context Protocol (MCP) ایجاد کردند تا سرویس ایمیل تراکنشی Postmark را به دستیارهای هوش مصنوعی متصل کنند. این بسته مخرب در رجیستری Node.js منتشر شد و ظاهری کاملاً قانونی داشت. در نسخههای اولیه، هیچ فعالیت مخربی دیده نمیشد اما با اضافه شدن یک خط کد، دادههای حساس مانند:
- درخواستهای ریست رمز عبور
- فاکتورها
- یادداشتهای داخلی سازمان
به صورت مخفیانه استخراج شد و این حمله به شکل یک حمله زنجیره تأمین (Supply Chain Attack) درآمد.
سرورهای MCP به AI Agentها اجازه میدهند به منابع داده، ابزارها و APIها متصل شوند. اگر مهاجم ابزاری آلوده در این زنجیره قرار دهد، سوءاستفاده از سرویسهای هوش مصنوعی میتواند بدون اطلاع کاربر رخ دهد.
2. استفاده از سرویسهای هوش مصنوعی بهعنوان کانال مخفی C2
روش دیگر سوءاستفاده از سرویسهای هوش مصنوعی، تبدیل آنها به کانال مخفی فرماندهی و کنترل (C2) است.
در این سناریو، بدافزار به جای ارتباط مستقیم با سرور C2، دستورات خود را از طریق API سرویسهای AI و در قالب ترافیک عادی دریافت میکند. به عنوان نمونه، بکدور SesameOp توانست ترافیک دستوری خود را در OpenAI Assistants API مخفی کند و دستورات مخرب را به شکل فعالیت عادی توسعهدهندگان نشان دهد.
تحقیقات Check Point نشان داد که حتی بدون استفاده از کلید API یا حساب کاربری، برخی سیستمها مانند Microsoft Copilot و Grok میتوانند برای فراخوانی URLهای مهاجم سوءاستفاده شوند.
3. آلودهسازی وابستگیها در گردشکارهای هوش مصنوعی
یکی از پیچیدهترین روشها، آلوده کردن وابستگیهای نرمافزاری در زنجیره پردازش داده است. در یک مورد، یک بسته آلوده NPM وارد گردش کاری Agentمحور (Agentic Workflow) شد. تفاوت این حمله با حملات کلاسیک زنجیره تأمین این است که وابستگی آلوده میتواند:
- تصمیمگیری AI را تغییر دهد.
- ابزارهای انتخابی AI را دستکاری کند.
- خروجی سیستم را بدون هشدار آشکار تغییر دهد.
این روش یکی از پیچیدهترین نمونههای سوءاستفاده از سرویسهای هوش مصنوعی به شمار میآید.
4. Agentهای دوگانه؛ سوءاستفاده از آسیبپذیریهای دستیارهای هوش مصنوعی
برخی حملات مستقیماً روی آسیبپذیریهای دستیارهای هوش مصنوعی متمرکز هستند. نمونه بارز، آسیبپذیری EchoLeak در Microsoft 365 Copilot (CVE-2025-32711) است. در این حمله، تنها یک ایمیل حاوی Prompt Injection پنهان کافی بود تا دستیار AI فایلها و ایمیلهای داخلی را به سرور خارجی ارسال کند.
همچنین آسیبپذیریهای متنباز OpenClaw مانند CVE-2026-25253 اجازه کنترل کامل دستیار توسعهدهنده توسط مهاجم را میداد. بیش از 21 هزار نمونه آسیبپذیری و 12درصد Skillهای بازار OpenClaw بدافزار توزیع میکردند.
5. کمپینهای جاسوسی سایبری با مدیریت هوش مصنوعی
یکی دیگر از روشهای نگرانکننده، استفاده از AI برای مدیریت عملیات جاسوسی سایبری است. در سال 2025، شرکت Anthropic گزارش داد که گروه GTG-1002 از Claude Code برای انجام 80 تا 90 درصد عملیات تاکتیکی خود استفاده میکرد. مهاجمان از قابلیتهای Agent محور برای تولید اسکریپتهای حمله، تحقیق اهداف، توسعه ابزارهای نفوذ و خودکارسازی عملیات بهره بردند.
6. ساخت پلتفرمهای AI مخصوص جرایم سایبری
در کنار سوءاستفاده از ابزارهای موجود، برخی مهاجمان در حال توسعه پلتفرمهای اختصاصی AI برای نفوذ هستند.
یکی از نمونههای شناختهشده Xanthorox AI است؛ این پلتفرم ماژولهایی برای تولید بدافزار، توسعه اکسپلویت و خودکارسازی حملات ارائه میدهد.
ادغام Model Context Protocol (MCP) با فریمورک Hexstrike باعث شده این پلتفرم به سمت نفوذ کاملاً خودکار مبتنی بر AI Agentها حرکت کند، مفهومی که برخی کارشناسان آن را Vibe Hacking مینامند.
چرا سوءاستفاده از سرویسهای هوش مصنوعی تهدیدی جدی است؟
کارشناسان معتقدند مهاجمان دیگر فقط به آسیبپذیریهای نرمافزاری بسنده نکرده و از اعتماد سازمانها به هوش مصنوعی سوءاستفاده میکنند. به همین دلیل، تیمهای امنیتی باید دستیارهای AI را مانند کاربران دارای دسترسی ویژه مدیریت کنند و برای آنها:
- مانیتورینگ مداوم
- کنترل دسترسی سختگیرانه
- سیاستهای امنیتی دقیق
در نظر بگیرند تا ریسک سوءاستفاده از سرویسهای هوش مصنوعی به حداقل برسد.
جمعبندی
روند سوءاستفاده از سرویسهای هوش مصنوعی نشان میدهد تهدیدات سایبری وارد مرحلهای جدید شدهاند، جایی که مهاجمان به جای توسعه ابزارهای پیچیده، از همان فناوریهایی بهره میبرند که برای افزایش بهرهوری سازمانها طراحی شدهاند.
با گسترش استفاده از AI Agentها، دستیارهای هوشمند و LLMها، سازمانها باید رویکرد امنیتی خود را بازطراحی کنند، زیرا در غیر این صورت سوءاستفاده از سرویسهای هوش مصنوعی میتواند به یکی از بزرگترین ریسکهای امنیت سایبری در سالهای آینده تبدیل شود.
