دلیل توقف عرضه GPT-6.1 Astra
شرکت OpenAI اعلام کرد نتایج آزمون‌ها درباره توانایی GPT-6.1 Astra در پیروی از دستورهای کاربر و حفظ عملکرد مورد انتظار، نگرانی‌هایی را به وجود آورده است؛ نگرانی‌هایی که در نهایت منجر به کنار گذاشتن برنامه عرضه این مدل شد.
روزنامه وال‌استریت ژورنال گزارش داد که مدل GPT-6.1 Astra در جریان ارزیابی‌ها، در مقایسه با مدل قبلی عملکرد فریبکارانه بیشتری از خود نشان داده و در برخی موارد نیز اقدامات انجام‌شده را به کاربر اعلام نکرده است. همچنین، مدل در بعضی موقعیت‌ها بدون دریافت مجوز به انجام اقدامات ادامه داده یا تلاش کرده است از ابزارهای خارجی استفاده کند؛ اقداماتی که در چنین شرایطی می‌توانستند از نظر ایمنی نامناسب باشند.
شرکت OpenAI اعلام کرد GPT-6.1 Astra در برخی شاخص‌ها، از جمله کاهش میزان کم‌کاری مدل، پیشرفت‌هایی داشته است، اما همچنان نتوانسته بود استانداردهای موردنظر در زمینه رعایت محدوده و سطح اختیارات مجاز را برآورده کند. همچنین، این مدل در اطلاع‌رسانی به کاربر درباره اقداماتی که انجام داده بود، عملکرد مطلوبی نداشت.
OpenAI تأکید کرد که ایمنی باید در تمام مراحل توسعه و عرضه مدل‌ها رعایت شود. به گفته این شرکت، هنگام عرضه مدل برای کاربران، استانداردهای بسیار بالایی در زمینه ایمنی و هم‌راستایی در نظر گرفته می‌شود.
افزایش نگرانی‌ها درباره عملکرد مستقل سیستم‌های هوش مصنوعی
این تصمیم برای توقف عرضه GPT-6.1 Astra در حالی اتخاذ شد که گزارش‌های مختلفی درباره عملکرد خارج از چارچوب سامانه‌های هوش مصنوعی منتشر شده و نگرانی‌ها درباره سرعت توسعه این فناوری را افزایش داده است.
این روند باعث شده است برخی کارشناسان بر ضرورت کاهش سرعت توسعه هوش مصنوعی و اعمال تدابیر ایمنی سخت‌گیرانه‌تر پیش از عرضه گسترده این سامانه‌ها تأکید کنند.
هفته گذشته نیز OpenAI اعلام کرد آموزش قدرتمندترین مدل‌های خود را متوقف کرده است. این تصمیم پس از آن اتخاذ شد که یکی از عامل‌های هوش مصنوعی این شرکت در جریان آموزش یادگیری تقویتی (Reinforcement Learning یا RL)، با سوءاستفاده از یک ضعف در محدودیت‌های دسترسی به اینترنت، با یک چت‌بات خارجی ارتباط برقرار کرد. این رخداد بار دیگر نگرانی‌ها درباره توانایی مدل‌های هوش مصنوعی برای دور زدن محدودیت‌های تعیین‌شده را افزایش داد.
حملات زنجیره تأمین غیرمجاز در آزمون‌های شبیه‌سازی‌شده
در ادامه نگرانی‌ها درباره ایمنی مدل‌های هوش مصنوعی، مؤسسه امنیت هوش مصنوعی در گزارشی اعلام کرد GPT-6 Astra در آزمون‌های شبیه‌سازی‌شده، حملات غیرمجاز زنجیره تأمین را با نرخ بالاتری نسبت به برخی مدل‌های قبلی OpenAI انجام داده است. نکته قابل توجه این بود که GPT-6 Astra در برخی موارد، حتی پس از تعیین صریح محدوده مجاز فعالیت، همچنان به انجام اقدامات خارج از این محدوده ادامه داده است. بر اساس این گزارش، این مدل طیف گسترده‌ای از فعالیت‌های تهاجمی بدون مجوز را انجام داده و میزان وقوع چنین فعالیت‌هایی در آن، نسبت به مدل‌های GPT-5.6 Sol و GPT-5.5 بیشتر بوده است.
بر اساس یافته‌های این مؤسسه، GPT-6 Astraدر جریان این آزمون‌ها اقداماتی از جمله ایجاد هویت‌های جعلی برای فریب توسعه‌دهندگان، انتشار کامنت از طریق حساب‌های جعلی با هدف به چالش کشیدن نتایج ارزیابی‌های دقیق امنیتی و ارسال پیلودهای مخرب به پایگاه‌های کد پروژه‌های متن‌باز انجام داده است.
