شرکت OpenAI پس از ارزیابی داخلی مدل آسترا (Astra Model) اعلام کرده است که این مدل در زمینه کدنویسی عامل‌محور (Agentic Coding) و امنیت سایبری به پیشرفت‌های چشمگیری دست یافته است. این پیشرفت‌ها به حدی بوده که OpenAI نمی‌تواند احتمال برخورداری مدل آسترا از قابلیت‌های سایبری در سطح «بحرانی» (Critical) را رد کند. OpenAI در واکنش به این یافته‌ها، بخشی از فعالیت‌های داخلی مرتبط با این مدل را که هنوز با الزامات جدید امنیتی مطابقت ندارند، متوقف کرده است. همچنین این شرکت مجموعه‌ای از تدابیر امنیتی سخت‌گیرانه‌تر را به کار گرفته که شامل استفاده از محیط‌های آزمایشی ایزوله ، محدودسازی دسترسی به شبکه و ابزارها، تقویت حفاظت از وزن‌های مدل (Model Weights) و رمزنگاری آن‌ها، توسعه قابلیت‌های پیشرفته مانیتورینگ و تشخیص و اجرای کد در محیط سندباکس می‌شود.
همکاری OpenAI با نهادهای دولتی برای ارزیابی قابلیت‌های مدل آسترا
OpenAI اعلام کرده است که برای ارزیابی قابلیت‌های مدل آسترا با نهادهای دولتی مرتبط و برخی سازمان‌های منتخب در حوزه امنیت و ایمنی هوش مصنوعی (AI Safety) همکاری خواهد کرد. همچنین این شرکت قصد دارد دستورالعمل‌های پیشنهادی خود برای کنترل‌های امنیتی را در اختیار مراکز آزمایش شخص ثالث قرار دهد تا امکان اجرای ارزیابی‌های پرریسک‌تر در محیطی کنترل‌شده فراهم شود.
OpenAI بر اساس فریم‌ورک آمادگی (Preparedness Framework) خود اعلام کرده است که نمی‌توان احتمال برخورداری این مدل از قابلیت‌های سایبری در سطح «بحرانی» را رد کرد. در این فریم‌ورک، مدلی در این سطح قرار می‌گیرد که بتواند آسیب‌پذیری‌های روزصفر (Zero-Day) را در طیف گسترده‌ای از سامانه‌های حیاتی واقعی و مقاوم‌شده شناسایی و برای آن‌ها اکسپلویت عملیاتی توسعه دهد. چنین مدلی باید قادر باشد تنها با دریافت یک هدف کلی، راهبردهای جدید و سرتاسری (End-to-End) برای طراحی و اجرای حملات سایبری علیه اهداف مقاوم‌شده ایجاد کند.
به بیان ساده‌تر، چنین سطحی از توانمندی به این معناست که مدل می‌تواند آسیب‌پذیری‌های ناشناخته را به اکسپلویت‌های قابل استفاده تبدیل کرده و بر اساس یک هدف کلی، یک حمله سایبری را از مرحله طراحی تا اجرا پیش ببرد.
ارزیابی اولیه مدل آسترا و سطح قابلیت‌های سایبری
ارزیابی‌های اولیه OpenAI نشان داده است که مدل آسترا در حوزه قابلیت‌های سایبری عملکردی «به‌اندازه کافی قدرتمند» داشته است. به همین دلیل، این شرکت در شرایط فعلی نمی‌تواند احتمال برخورداری این مدل از قابلیت‌های سایبری در سطح «بحرانی» را رد کند.
با این حال، OpenAI تأکید کرده است که آسترا در رخداد ماه گذشته که هاگینگ فیس (Hugging Face) را هدف قرار داد هیچ نقشی نداشته است.
همچنین OpenAI در یک مقاله پژوهشی اعلام کرده است که این مدل توانسته 10 چالش علمی حل‌نشده در حوزه ریاضیات و علوم کامپیوتر نظری را حل کند. هزینه این فرآیند حدود 2 هزار دلار و بر اساس تعرفه‌های استفاده از رابط برنامه‌نویسی کاربردی (API) سرویس Sol محاسبه شده است.
OpenAI اعلام کرده است که انتشار این اطلاعات با هدف شفاف‌سازی برای افکار عمومی و جوامع فعال در حوزه امنیت و ایمنی هوش مصنوعی انجام شده است. به گفته این شرکت، تغییر احتمالی در سطح قابلیت‌های این مدل موضوعی مهم است که باید به‌صورت عمومی و شفاف مورد توجه قرار گیرد.
OpenAI بر این باور است که مدل‌های پیشرفته با قابلیت‌های سایبری باید به تیم‌های دفاعی کمک کنند تا آسیب‌پذیری‌ها را پیش از آنکه مهاجمان از آن‌ها سوءاستفاده کنند، شناسایی و برطرف کنند. همچنین این شرکت اعلام کرده است که برای توسعه و به‌کارگیری مسئولانه قابلیت‌های پیشرفته مدل‌هایی مانند آسترا و نسل‌های بعدی آن، به همکاری با دولت‌ها، مؤسسات تخصصی امنیت هوش مصنوعی و جامعه مدنی ادامه خواهد داد.
افزایش سریع قابلیت‌های سایبری مدل‌های پیشرفته
تحولات اخیر پیرامون مدل آسترا تازه‌ترین نشانه از شتاب گرفتن توانمندی‌های سایبری در مدل‌های پیشرو هوش مصنوعی (Frontier Models) است. اهمیت این موضوع زمانی دوچندان می‌شود که OpenAI با یک رویکرد بی‌سابقه، اعلام کرد برای مدیریت ریسک‌های سایبری، روند توسعه برخی از قابلیت‌های پیشرفته خود را متوقف یا محدود خواهد کرد.
اوایل هفته گذشته، مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) نیز نتایج یکی از ارزیابی‌های خود را منتشر کرد. بر اساس این ارزیابی، مدل‌های هوش مصنوعی دارای دسترسی به اینترنت در 10 مورد از مجموع 122 اجرای آزمایشی، به‌صورت خودکار با دنیای واقعی ارتباط برقرار کرده و افراد یا سازمان‌ها را هدف قرار داده‌اند.
در مجموع 19 فعالیت خودکار از این نوع ثبت شد که 17 مورد آن توسط Mythos 5 شرکت آنتروپیک (Anthropic) و دو مورد دیگر توسط GPT-5.6-Sol شرکت OpenAI با قابلیت تشخیص فعالیت‌های سایبری انجام شده بود.
AISI اعلام کرد که در جدی‌ترین مورد، یکی از عامل‌های هوش مصنوعی (AI Agent) تلاش کرده است کد مخرب را وارد یک پروژه متن‌باز کند. این عامل با استفاده از روش‌های مهندسی اجتماعی (Social Engineering) تلاش کرده است مدیر پروژه را به تأیید کد مخرب متقاعد کند. این عامل با ایجاد هویت‌های جعلی در فضای آنلاین، تلاش کرده است مدیر پروژه را برای تأیید کد تحت فشار قرار دهد. با این حال، مدیر پروژه کد مخرب را شناسایی کرده و از تأیید آن خودداری کرده است.
AISI تأکید کرده است که این تلاش‌ها در نهایت موفق نبوده‌اند و بررسی‌های انجام‌شده نیز هیچ نشانه‌ای از پیامد واقعی در دنیای بیرون نشان نداده است. با این حال، این نخستین بار بود که توانایی مدل‌های هوش مصنوعی در انجام اقدامات مستقل و استفاده از فریب، بدون دریافت دستور مشخص، با چنین وضوحی در یک محیط واقعی مشاهده شد.
ضعف در ایزوله‌سازی، مدل‌های هوش مصنوعی را به اهداف خارج از آزمایش رساند
هم‌زمان با انتشار یافته‌های مربوط به مدل آسترا، گزارش‌هایی درباره مدل‌های هوش مصنوعی شرکت متا (Meta) و شرکت چینی Moonshot نیز منتشر شده است. مدل‌های Muse Spark 1.1 و Kimi K3 در جریان آزمایش‌ها توانستند از محیط‌های کنترل‌شده خارج شوند و با اهداف واقعی که خارج از محدوده آزمایش قرار داشتند، تعامل برقرار کنند.
این رخدادها نگرانی‌ها درباره توانایی توسعه‌دهندگان برای ایزوله‌سازی مدل‌های هوش مصنوعی پیشرفته را افزایش داده است. با این حال، بررسی‌ها نشان می‌دهد دسترسی این دو مدل به اینترنت در نتیجه پیکربندی‌های نادرست شبکه بوده و ناشی از شناسایی و سوءاستفاده مستقل آن‌ها از یک آسیب‌پذیری ناشناخته نبوده است.
در جریان ارزیابی مدل‌های هوش مصنوعی با استفاده از بنچمارک‌های (Benchmarks) امنیت سایبری برای سنجش عملکرد آن‌ها در وظایف تهاجمی و دفاعی، شرکت Frontier Security اعلام کرد که Kimi K3 موفق شده یک ضعف در مسیر ارتباطی شبکه را شناسایی کند.
این ضعف به Kimi K3 امکان داد به github[.]com دسترسی پیدا کرده و مخزن رسمی مربوط به چالش بنچمارک را دریافت کند. در نتیجه، مدل به‌جای اینکه چالش را به‌صورت مستقل انجام دهد، مستقیماً به پاسخ آماده موجود در مخزن دسترسی پیدا کرد.
Frontier Security در توضیح این رخداد اعلام کرد که Kimi K3 چالش موردنظر را به‌صورت مستقل انجام نداده است. این مدل ابتدا شبکه را بررسی کرد و متوجه شد تبدیل نام دامنه به آدرس IP از طریق سامانه برای github.com همچنان امکان‌پذیر است، در حالی که محیط سندباکس دسترسی به بیشتر وب‌سایت‌ها را مسدود کرده بود. سپس Kimi K3 مخزن رسمی مربوط به بنچمارک را دریافت کرد و پاسخ آماده چالش را مستقیماً از روی دیسک سیستم خواند.
این رخداد نشان می‌دهد که بخشی از ریسک‌های مشاهده‌شده در آزمایش‌های اخیر لزوماً به توانایی مدل‌ها برای شناسایی و اکسپلویت یک آسیب‌پذیری جدید مربوط نیست. در برخی موارد، ضعف در پیکربندی محیط آزمایش و محدودیت‌های دسترسی شبکه می‌تواند به مدل اجازه دهد از مرزهای تعیین‌شده عبور کند و به منابع خارج از محیط آزمایش دسترسی پیدا کند.
راه‌اندازی وب‌سایت برای ردیابی رخدادهای هوش مصنوعی
افزایش مواردی که در آن عامل‌های هوش مصنوعی توسعه‌یافته توسط شرکت‌های بزرگ، به روش‌های مختلف از محیط‌های آزمایشی خارج شده و به اهداف واقعی خارج از محدوده آزمایش دسترسی پیدا کرده‌اند، منجر به راه‌اندازی وب‌سایتی با نام Felony Bench شده است. این وب‌سایت با هدف ثبت و ردیابی این رخدادها راه‌اندازی شده است و مواردی را مستند می‌کند که در آن عامل‌های هوش مصنوعی از محیط‌های آزمایشی کنترل‌شده خارج شده و با سامانه‌ها یا اهداف واقعی خارج از محدوده آزمایش تعامل داشته‌اند.
