OpenAI ارائه قابلیت Lockdown Mode یا به عبارتی حالت قفل را برای کاربران واجد شرایط چتجیپیتی (ChatGPT) آغاز کرده است؛ یک مکانیزم امنیتی جدید که با محدودسازی دسترسی به ابزارهای متصل به وب و سرویسهای خارجی، با هدف کاهش ریسک استخراج داده در سناریوهای مبتنی بر حملات تزریق پرامپت (Prompt Injection) طراحی شده است. بر اساس اعلام OpenAI، قابلیت Lockdown Mode با کنترل درخواستهای خروجی شبکه و مسدودسازی مسیرهای بالقوه استخراج داده، لایه امنیتی مضاعفی را برای حفاظت از اطلاعات حساس فراهم میکند.
دلیل اهمیت قابلیت Lockdown Mode
این قابلیت در درجه اول برای کاربران و سازمانهایی توسعه یافته است که با اطلاعات حساس و محرمانه سروکار داشته و به سطح بالاتری از کنترلهای امنیتی نیاز دارند. در حال حاضر این ویژگی برای کاربران دارای حساب کاربری در پلنهای رایگان (Free)، گو (Go)، پلاس (Plus)، پرو (Pro) و همچنین طرحهای تجاری سلفسرویس چتجیپیتی بیزینس (ChatGPT Business) در دسترس است.
به گفته OpenAI، قابلیت Lockdown Mode با محدودسازی درخواستهای خروجی شبکه و کاهش مسیرهای بالقوه مورد سوءاستفاده برای استخراج داده، احتمال انتقال اطلاعات حساس به زیرساختهای تحت کنترل مهاجمان را کاهش میدهد. با این حال، بهرهمندی از این سطح حفاظتی مستلزم غیرفعال شدن یا محدود شدن بخشی از قابلیتهایی است که برای دسترسی به وب یا سرویسهای خارجی مورد استفاده قرار میگیرند.
رویکرد OpenAI برای ایمنسازی سطح حمله در برابر حملات تزریق پرامپت
به گفته OpenAI، این تدابیر امنیتی با هدف ایمنسازی سطح حمله در برابر حملات تزریق پرامپت طراحی شدهاند؛ تهدیدی که همچنان یکی از چالشهای بنیادین در اکوسیستم مدلهای زبانی بزرگ (LLMs) محسوب میشود. در همین راستا، قابلیت Lockdown Mode با تکیه بر مکانیزمهای ایزولهسازی (Sandboxing) و کنترلهای امنیتی موجود، برای مقابله با روشهای استخراج داده مبتنی بر URL توسعه یافته است.
محدودیتهای امنیتی قابلیت Lockdown Mode برای کاهش ریسک استخراج داده
OpenAI تأکید کرده است که هدف این قابلیت جلوگیری از وقوع حملات تزریق پرامپت نیست و فعالسازی آن تغییری در نحوه عملکرد حافظه، بارگذاری فایلها یا امکان اشتراکگذاری گفتگوهای کاربری ایجاد نمیکند. در عوض، این رویکرد با هدف حذف مسیرها و قابلیتهایی طراحی شده است که میتواند برای استخراج یا انتقال اطلاعات حساس مورد سوءاستفاده قرار گیرند. در همین راستا، قابلیت Lockdown Mode دسترسی به برخی ابزارها و قابلیتهای متصل به وب را غیرفعال یا محدود میکند که شامل موارد زیر است:
- دسترسی بلادرنگ به وب (Live Web Browsing) که تنها به محتوای ذخیرهشده در حافظه کش محدود میشود.
- پشتیبانی از تصاویر برای نمایش تصاویر در پاسخها یا دریافت تصاویر از اینترنت.
- تحقیق عمیق (Deep Research)
- حالت عامل (Agent Mode)
- ارتباطات شبکهای Canvas که امکان تأیید دسترسی شبکه برای کدهای تولیدشده در Canvas را مسدود میکند.
- دریافت فایلها که دانلود فایل برای تحلیل داده را غیرفعال میسازد.
همچنین OpenAI اعلام کرده است که این ویژگی برای تمامی کاربران طراحی نشده و بیشتر برای کاربرانی مناسب است که با دادههای حساس و محرمانه سروکار دارند. این شرکت در ادامه خاطرنشان کرد که قابلیتLockdown Mode و Developer Mode (حالت توسعهدهنده) بهصورت همزمان قابل استفاده نیستند و فعالسازی هر یک از آنها، دیگری را غیرفعال خواهد کرد..
کاهش ریسک بهجای حذف کامل تهدید
OpenAI تأکید کرده است که قابلیت Lockdown Mode با وجود کاهش قابلتوجه ریسک استخراج داده ناشی از حملات تزریق پرامپت، تضمینی برای حذف کامل این ریسک ارائه نمیدهد. چراکه برنامههای فعال، تعاملهای غیرمنتظره میان قابلیتهای مختلف پلتفرم یا تکنیکهای حملهای که در آینده شناسایی میشوند، میتوانند بردارهای حمله جدیدی ایجاد کنند.
همچنینOpenAI خاطرنشان کرده است که این قابلیت برای مقابله با همه پیامدهای حملات تزریق پرامپت طراحی نشده است. برای مثال، دستورالعملهای مخربی که در فایلهای بارگذاریشده پنهان شدهاند، همچنان میتوانند بر عملکرد مدل تأثیر بگذارند و موجب تولید پاسخهای نادرست یا گمراهکننده شوند.
قابلیت جدید OpenAI برای نظارت و مدیریت نشستهای فعال
OpenAI همزمان با معرفی قابلیت Lockdown Mode، ابزار جدیدی را برای مدیریت حسابهای کاربری چتجیپیتی ارائه کرده است که به کاربران اجازه میدهد نشستهای فعال (Active Sessions) خود را مشاهده و بررسی کنند. این قابلیت در شرایطی که نشانههایی از دسترسی غیرمجاز یا فعالیت مشکوک در حساب مشاهده شود، امکان خروج از یک نشست مشخص یا خاتمه دادن به تمامی نشستهای فعال را فراهم میکند.
اطلاعات نمایشدادهشده در این بخش شامل نوع دستگاه، برنامه یا اپلیکیشن مورد استفاده، موقعیت مکانی تقریبی، تاریخ و زمان ورود به حساب، وضعیت دستگاه مورد اعتماد (Trusted Device) و همچنین مشخص بودن نشست فعلی کاربر است. این قابلیت به کاربران کمک میکند کنترل بیشتری بر امنیت حساب خود داشته باشند و فعالیتهای مشکوک را سریعتر شناسایی کنند.
