تگ: AISafety

مدل آسترا

عملکرد قدرتمند سایبری مدل آسترا، OpenAI را به توقف برخی فعالیت‌های داخلی واداشت

شرکت OpenAI پس از ارزیابی داخلی مدل آسترا (Astra Model) اعلام کرده است که این مدل در زمینه کدنویسی عامل‌محور (Agentic Coding) و امنیت سایبری به پیشرفت‌های چشمگیری دست یافته است. این پیشرفت‌ها به حدی بوده که OpenAI نمی‌تواند احتمال برخورداری مدل آسترا از قابلیت‌های سایبری در سطح «بحرانی» (Critical) را رد کند.

عامل‌های هوش مصنوعی

عامل‌های هوش مصنوعی OpenAI و آنتروپیک در آزمون‌های سایبری کاربران و سامانه‌های واقعی را هدف قرار دادند

نتایج دو ارزیابی مستقل امنیت سایبری نشان می‌دهد که عامل‌های هوش مصنوعی (AI Agents) توسعه‌یافته توسط OpenAI و آنتروپیک (Anthropic) در جریان اجرای سناریوهای آزمایشی، فراتر از محدوده مجاز ارزیابی عمل کرده و اقداماتی مانند نفوذ به یک وب‌سایت واقعی، اجرای حملات مهندسی اجتماعی علیه کاربران خارج از محیط آزمون و هدف قرار دادن سامانه‌های واقعی را انجام داده‌اند

مایکروسافت ابزارهای متن‌باز Rampart و Clarity را برای تقویت امنیت عامل‌های هوش مصنوعی منتشر کرد

مایکروسافت با معرفی دو ابزار متن‌باز Rampart و Clarity، رویکردی نوین در مهندسی ایمن‌سازی سیستم‌های هوشمند ارائه کرده است. این استراتژی بر امنیت عامل‌های هوش مصنوعی (AI-Agent)تمرکز دارد و تلاش می‌کند لایه حفاظتی را از یک مرحله نهایی در تست‌ها به بخشی پیوسته از چرخه توسعه نرم‌افزار تبدیل کند.

مدل آسترا

عملکرد قدرتمند سایبری مدل آسترا، OpenAI را به توقف برخی فعالیت‌های داخلی واداشت

شرکت OpenAI پس از ارزیابی داخلی مدل آسترا (Astra Model) اعلام کرده است که این مدل در زمینه کدنویسی عامل‌محور (Agentic Coding) و امنیت سایبری به پیشرفت‌های چشمگیری دست یافته است. این پیشرفت‌ها به حدی بوده که OpenAI نمی‌تواند احتمال برخورداری مدل آسترا از قابلیت‌های سایبری در سطح «بحرانی» (Critical) را رد کند.

عامل‌های هوش مصنوعی

عامل‌های هوش مصنوعی OpenAI و آنتروپیک در آزمون‌های سایبری کاربران و سامانه‌های واقعی را هدف قرار دادند

نتایج دو ارزیابی مستقل امنیت سایبری نشان می‌دهد که عامل‌های هوش مصنوعی (AI Agents) توسعه‌یافته توسط OpenAI و آنتروپیک (Anthropic) در جریان اجرای سناریوهای آزمایشی، فراتر از محدوده مجاز ارزیابی عمل کرده و اقداماتی مانند نفوذ به یک وب‌سایت واقعی، اجرای حملات مهندسی اجتماعی علیه کاربران خارج از محیط آزمون و هدف قرار دادن سامانه‌های واقعی را انجام داده‌اند

مایکروسافت ابزارهای متن‌باز Rampart و Clarity را برای تقویت امنیت عامل‌های هوش مصنوعی منتشر کرد

مایکروسافت با معرفی دو ابزار متن‌باز Rampart و Clarity، رویکردی نوین در مهندسی ایمن‌سازی سیستم‌های هوشمند ارائه کرده است. این استراتژی بر امنیت عامل‌های هوش مصنوعی (AI-Agent)تمرکز دارد و تلاش می‌کند لایه حفاظتی را از یک مرحله نهایی در تست‌ها به بخشی پیوسته از چرخه توسعه نرم‌افزار تبدیل کند.