مدل‌های OpenAI در جریان یک آزمون داخلی امنیت سایبری به زیرساخت هاگینگ فیس نفوذ کردند
1405-05-17
10:19 ق.ظ
یک واریانت جدید از Spectre v2 با نام حمله BTR (Branch Target Reuse) شناسایی شده است که می‌تواند از ضعف در پیش‌بینی‌کننده شاخه (Branch Predictor) پردازنده‌ها برای افشای داده‌های حساس سوءاستفاده کند. حمله BTR با سوءاستفاده از اطلاعات قدیمی باقی‌مانده در پیش‌بینی‌کننده شاخه، پس از آنکه موتور کامپایل در لحظه (JIT) از یک بخش حافظه برای کد جدید استفاده می‌کند، پردازنده را به اجرای موقت (Transient Execution) دستورالعمل‌های نادرست وادار می‌کند؛ روشی که در آزمایش‌ها امکان بازیابی هش رمز عبور حساب Root در سیستم‌های Intel مبتنی بر لینوکس (Linux) را تنها طی چند دقیقه فراهم کرده است.
شرکت OpenAI عرضه GPT-6.1 Astra را پس از آن متوقف کرد که این مدل نسل جدید هوش مصنوعی در ارزیابی‌های داخلی ایمنی و هم‌راستایی نتوانست استانداردهای موردنظر را برآورده کند. مدل GPT-6.1 Astra که قرار بود در ماه اکتبر عرضه شود، در جریان آزمون‌های ایمنی نگرانی‌هایی درباره انجام اقدامات بدون مجوز، پایبند نبودن به حدود اختیارات و عملکرد فریبکارانه ایجاد کرد. این موارد در نهایت باعث شد OpenAI از برنامه عرضه این مدل صرف‌نظر کند.
یک واریانت جدید از Spectre v2 با نام حمله BTR (Branch Target Reuse) شناسایی شده است که می‌تواند از ضعف در پیش‌بینی‌کننده شاخه (Branch Predictor) پردازنده‌ها برای افشای داده‌های حساس سوءاستفاده کند. حمله BTR با سوءاستفاده از اطلاعات قدیمی باقی‌مانده در پیش‌بینی‌کننده شاخه، پس از آنکه موتور کامپایل در لحظه (JIT) از یک بخش حافظه برای کد جدید استفاده می‌کند، پردازنده را به اجرای موقت (Transient Execution) دستورالعمل‌های نادرست وادار می‌کند؛ روشی که در آزمایش‌ها امکان بازیابی هش رمز عبور حساب Root در سیستم‌های Intel مبتنی بر لینوکس (Linux) را تنها طی چند دقیقه فراهم کرده است.
شرکت OpenAI عرضه GPT-6.1 Astra را پس از آن متوقف کرد که این مدل نسل جدید هوش مصنوعی در ارزیابی‌های داخلی ایمنی و هم‌راستایی نتوانست استانداردهای موردنظر را برآورده کند. مدل GPT-6.1 Astra که قرار بود در ماه اکتبر عرضه شود، در جریان آزمون‌های ایمنی نگرانی‌هایی درباره انجام اقدامات بدون مجوز، پایبند نبودن به حدود اختیارات و عملکرد فریبکارانه ایجاد کرد. این موارد در نهایت باعث شد OpenAI از برنامه عرضه این مدل صرف‌نظر کند.
