سهم بالای سازمان‌های بزرگ از رکوردهای سرقت‌شده
بررسی رکوردهای به‌دست‌آمده از بدافزارهای رباینده اطلاعات (Infostealer) نشان می‌دهد سرقت اطلاعات ورود و نشست‌های کاربری سرویس‌های هوش مصنوعی تنها به شرکت‌های کوچک یا سازمان‌های کمتر شناخته‌شده محدود نمی‌شود و سازمان‌های بزرگ نیز سهم قابل‌توجهی از این داده‌ها دارند. از میان 482 سازمان بررسی‌شده، 68 درصد شرکت‌هایی با ارزش یک میلیارد دلار یا بیشتر هستند که در 36 کشور و هشت صنعت مختلف فعالیت دارند. بخش قابل‌توجهی از این سازمان‌ها در آمریکای شمالی مستقر هستند و ده‌ها مورد نیز در رتبه‌بندی‌های فوربز (Forbes) قرار دارند.
این مجموعه داده در مجموع شامل 5,434 رکورد لاگ سرقت‌شده است که به 1,500 آدرس ایمیل سازمانی منحصربه‌فرد مرتبط هستند. بررسی زمان ثبت این رکوردها نشان می‌دهد این فعالیت همچنان ادامه دارد؛ چراکه رکوردهای مرتبط با 295 سازمان از میان 482 سازمان بررسی‌شده، در 90 روز گذشته ثبت شده‌اند. این موضوع نشان می‌دهد سرقت اطلاعات ورود و نشست‌های کاربری سرویس‌های هوش مصنوعی تنها به رخدادهای گذشته محدود نمی‌شود و همچنان ادامه دارد.
چت‌جی‌پی‌تی در صدر فهرست
تفکیک داده‌های بررسی‌شده بر اساس پلتفرم نشان می‌دهد چت‌جی‌پی‌تی (ChatGPT) با فاصله قابل‌توجهی در صدر فهرست قرار دارد. در 358 مورد از 482 سازمان بررسی‌شده، دست‌کم یک نشست ثبت‌شده از چت‌جی‌پی‌تی یا OpenAI شناسایی شده است. این سازمان‌ها در مجموع حدود 90 درصد از کل رکوردهای بررسی‌شده را به خود اختصاص می‌دهند. پس از آن، سرویس‌هایی مانند زپیر (Zapier)، نوشن (Notion)، هاگینگ فیس (Hugging Face)، ریپلیت (Replit)، لاوبل (Lovable) و اِلِوِن‌لبز (ElevenLabs) با اختلاف قابل‌توجهی در رتبه‌های بعدی قرار دارند.
با وجود تمرکز بالای داده‌ها روی چت‌جی‌پی‌تی، عدم وجود برخی سرویس‌ها در رتبه‌های بالای فهرست نیز قابل‌توجه است. Claude و جمنای (Gemini) در میان سرویس‌های دارای بیشترین موارد شناسایی‌شده قرار ندارند و سهم محدودی از داده‌های بررسی‌شده را به خود اختصاص داده‌اند.
پژوهشگران تأکید می‌کنند که سهم بسیار بالای چت‌جی‌پی‌تی در این داده‌ها لزوماً به معنای ضعف امنیتی این سرویس نیست، بلکه می‌تواند نشانه‌ای از گسترش استفاده غیررسمی از ابزارهای هوش مصنوعی (Shadow AI) در سازمان‌ها باشد. رواج گسترده چت‌جی‌پی‌تی باعث شده است بسیاری از کارکنان بدون اطلاع سازمان، با استفاده از ایمیل کاری خود و روی دستگاه‌های شخصی در این سرویس حساب کاربری ایجاد کنند. اگر این دستگاه‌ها به بدافزارهای رباینده اطلاعات آلوده شوند، مهاجمان می‌توانند اطلاعات و نشست‌های کاربری ذخیره‌شده روی آن‌ها را سرقت کنند.
پژوهشگران معتقدند با گسترش استفاده از سایر دستیارهای هوش مصنوعی، توزیع داده‌های سرقت‌شده میان پلتفرم‌های مختلف نیز به‌تدریج متعادل‌تر خواهد شد. از این رو، سهم بالای چت‌جی‌پی‌تی در داده‌های بررسی‌شده را نمی‌توان به‌تنهایی معیاری برای ارزیابی یا مقایسه سطح امنیت سرویس‌های مختلف دانست.
رخداد اخیر آنتروپیک نیز نشان داد نشست‌های Claude در صورت گسترش استفاده از این پلتفرم می‌توانند هدف مهاجمان قرار بگیرند. با این حال، Claude هنوز کاربران سازمانی کمتری دارد و در نتیجه، داده‌های کمتری از این سرویس در اختیار مهاجمان قرار می‌گیرد.
برای مدیر ارشد امنیت اطلاعات (CISO)، مسئله اصلی انتخاب یک دستیار هوش مصنوعی «امن‌تر» نیست؛ بلکه کنترل نحوه استفاده کاربران از این سرویس‌ها و حساب‌های خارج از نظارت سازمان است. بنابراین، سازمان‌ها باید این حساب‌ها و سرویس‌ها را نیز در چارچوب مدیریت هویت و دسترسی (Identity and Access Management) و سیاست‌های امنیتی خود قرار دهند.
چرا سرقت اطلاعات ورود به سرویس‌های هوش مصنوعی از سرقت رمزعبور خطرناک‌تر است؟
اطلاعات ورود معمولاً فقط دسترسی به یک اپلیکیشن را فراهم می‌کند؛ اما یک حساب هوش مصنوعی می‌تواند هم‌زمان آرشیوی قابل جست‌وجو، ابزاری برای اجرای عملیات، منبع هزینه و یک هویت دیجیتال باشد. بنابراین، سرقت یک نشست فعال می‌تواند بدون نیاز به وارد کردن رمز عبور، دسترسی مهاجم را به هر چهار بخش فراهم کند.
تاریخچه مکالمات می‌تواند به یک منبع افشای اطلاعات تبدیل شود
کارکنان ممکن است کد منبع، اطلاعات مشتریان، قراردادها و برنامه‌های منتشرنشده را در پیام‌های ورودی مدل‌های هوش مصنوعی وارد کنند. در چنین شرایطی، حساب کاربری به مخزنی از اطلاعات و حافظه سازمانی تبدیل می‌شود و مهاجمی که به یک نشست سرقت‌شده دسترسی پیدا کند، می‌تواند بدون دسترسی مستقیم به سامانه‌های داخلی، به تاریخچه این مکالمات دسترسی داشته باشد.
کوکی نشست می‌تواند احراز هویت چندمرحله‌ای را دور بزند
یک کوکی نشست سرقت‌شده در واقع امکان استفاده از یک نشست فعال را در اختیار مهاجم قرار می‌دهد. مهاجمان به‌دنبال توکن‌های نشست و کلیدهای API هستند، زیرا این موارد می‌توانند بدون نیاز به ارائه مجدد اطلاعات ورود، احراز هویت مبتنی بر اعتبارنامه را دور بزنند. در چنین شرایطی، حتی تغییر رمز عبور نیز نمی‌تواند به نشست فعال مهاجم پایان دهد و دسترسی او همچنان برقرار می‌ماند.
عامل‌های هوش مصنوعی با سطح دسترسی کاربر عمل می‌کنند
پلتفرم‌های خودکارسازی معمولاً از مجوزهای OAuth برای دسترسی مستمر به سامانه‌هایی مانند مدیریت ارتباط با مشتری (CRM)، ایمیل و فضای ذخیره‌سازی استفاده می‌کنند. در نتیجه، سرقت یک نشست زپیر (Zapier) می‌تواند به مهاجم اجازه دهد گردش‌کاری (Workflow) ایجاد کند که داده‌ها را طبق یک زمان‌بندی مشخص از طریق آدرس‌های IP متعلق به یک سرویس مورد اعتماد به خارج از سازمان منتقل نماید.
سوءاستفاده مهاجمان از کلیدهای API برای LLMjacking
کلیدهای API که در اپلیکیشن یادداشت یا تنظیمات فضای کاری ذخیره شده‌اند، ممکن است همراه با سایر اطلاعات سرقت شوند. مهاجمان می‌توانند با استفاده از این کلیدها از منابع پردازشی قربانی استفاده کرده و هزینه این استفاده را به نام قربانی ثبت کنند یا کلیدها را در بازارهای زیرزمینی به فروش برسانند. در این بازارها، دسترسی ارزان به حساب‌های Claude، جمنای و کِرسر (Cursor) نیز با ضمانت بازگشت وجه عرضه می‌شود.
شرکت‌های فناوری بیشترین اطلاعات ورود سرقت‌شده را دارند
شرکت‌های فعال در حوزه فناوری و سرویس‌های اینترنتی، با 144 سازمان از مجموع سازمان‌های بررسی‌شده، بیشترین سهم را به خود اختصاص داده‌اند و حدود 40 درصد از کل رکوردهای سرقت‌شده مربوط به این بخش است. همچنین این شرکت‌ها داده‌های بسیاری از مشتریان و سازمان‌های دیگر را در اختیار دارند.
در کنار بخش فناوری، صنایع تولیدی، مالی، سلامت و انرژی نیز سهم قابل‌توجهی از سازمان‌های شناسایی‌شده را به خود اختصاص داده‌اند.
اگر این صنایع را بر اساس نوع سرویس‌های هوش مصنوعی مورد استفاده بررسی کنیم، الگوی ریسک در هر بخش متفاوت خواهد بود. پلتفرم‌های مدل‌های زبانی بزرگ(LLMs) تقریباً در همه صنایع مورد استفاده قرار می‌گیرند؛ در صنعت انرژی نیز این پلتفرم‌ها در 93 درصد از سازمان‌های شناسایی‌شده وجود دارند.
در مقابل، عامل‌های هوش مصنوعی و پلتفرم‌های خودکارسازی بیشتر در صنایع سلامت، مالی و فناوری مورد استفاده قرار می‌گیرند؛ به‌ویژه سرویس‌هایی که با سطح دسترسی کارکنان به سامانه‌های دیگر متصل هستند.
برای چنین حمله‌ای حتی به زیرساخت پیچیده هم نیازی نیست. یک کارمند، یک لپ‌تاپ مدیریت‌نشده، رمز عبور ذخیره‌شده چت‌جی‌پی‌تی و یک بدافزار رباینده اطلاعات که از سال 2022 در کانال‌های تلگرامی فروخته می‌شود، می‌تواند برای سرقت اطلاعات ورود کافی باشد.
راهکارهای کاهش ریسک و مقابله با این تهدید
مقابله با این تهدید به راهکارهای پیچیده‌ای نیاز ندارد. سازمان‌ها باید پلتفرم‌های هوش مصنوعی را از نظر امنیتی در همان سطح ارائه‌دهنده هویت و مخازن کد منبع قرار دهند و برای محافظت از حساب‌ها، نشست‌ها و کلیدهای API، کنترل‌های امنیتی مناسب را به کار بگیرند. مهم‌ترین راهکارها عبارتند از:
- تمام پلتفرم‌های هوش مصنوعی را به SSO و نشست‌های کوتاه‌مدت مجهز کنید: استفاده از ورود یکپارچه (Single Sign-On) همراه با OAuth 2.0 / OIDC و تغییر دوره‌ای توکن Refresh باعث می‌شود توکن‌های قبلی اعتبار خود را از دست بدهند و در صورت سرقت، فرصت سوءاستفاده از آن‌ها کاهش یابد. ورود یکپارچه نیاز به ذخیره رمز عبور را کاهش می‌دهد، اما به‌تنهایی مانع سرقت کوکی نشست‌های فعال نمی‌شود و حساب‌هایی را که پیش از اجرای این سیاست ایجاد شده‌اند نیز تحت پوشش قرار نمی‌دهد.
- دسترسی کلیدهای API را محدود و مصرف آن‌ها را کنترل کنید: دامنه دسترسی هر کلید API را محدود کنید، برای میزان مصرف آن سقف مشخصی در نظر بگیرید و کلیدها را به‌صورت دوره‌ای تغییر دهید. همچنین، نحوه استفاده از این کلیدها را بررسی کنید؛ برای مثال، استفاده از آن‌ها از طریق شماره سامانه خودمختار (ASN) ناشناخته یا در زمان‌هایی که معمولاً فعالیتی از سوی کاربر انجام نمی‌شود، می‌تواند نشانه‌ای از فعالیت مشکوک باشد. در چنین مواردی باید هشدار امنیتی صادر شود، زیرا این الگوها ممکن است نشانه LLMjacking باشند.
- نشست‌های فعال را از نظر عملکرد مشکوک بررسی کنید: تغییر ناگهانی موقعیت جغرافیایی یا مشخصات دستگاه در طول یک نشست فعال می‌تواند نشان دهد که مهاجم به یک نشست سرقت‌شده دسترسی پیدا کرده است. همچنین، مشاهده اطلاعات ورود یک کارمند در لاگ‌های سرقت‌شده باید به‌عنوان یک رخداد امنیتی در دستگاه کاربر بررسی شود و اقدامات لازم برای مهار آن انجام گیرد، نه اینکه واکنش سازمان فقط به تغییر رمز عبور محدود شود.
- ابتدا حساب‌های Shadow AI را شناسایی کنید: سازمان نمی‌تواند حساب‌هایی را که از وجود آن‌ها اطلاعی ندارد، مدیریت یا کنترل کند. بنابراین، ابتدا بررسی کنید کدام دامنه‌های سازمانی در لاگ‌های سرقت‌شده ثبت شده‌اند تا حساب‌های ناشناخته شناسایی و دسترسی آن‌ها مدیریت شود.
واکنش آنتروپیک به رخداد مربوط به Claude می‌تواند برای سایر سازمان‌ها یک الگوی مناسب باشد. این شرکت نشست‌های فعال کاربران را پایان داد و روش‌های پرداخت ذخیره‌شده در حساب‌های تحت تأثیر را غیرفعال کرد. همچنین آنتروپیک به کاربرانی که دستگاه‌های آن‌ها آلوده شده بود اطلاع داد تا پیش از وقوع سوءاستفاده‌های مالی بیشتر، اقدامات لازم را انجام دهند.
این رویکرد نشان می‌دهد که مقابله با سرقت حساب‌های سرویس‌های هوش مصنوعی فقط با تغییر رمز عبور ممکن نیست. سازمان‌ها هم‌زمان باید اطلاعات ورود، نشست‌های فعال، کلیدهای API، حساب‌های Shadow AI و دستگاه‌های آلوده را بررسی کنند؛ زیرا مهاجم می‌تواند با استفاده از یک نشست معتبر یا کلید سرقت‌شده، بدون نیاز به احراز هویت مجدد، دسترسی خود را حفظ کند.
