تگ: عامل‌های_هوش_مصنوعی

عامل‌های هوش مصنوعی

عامل‌های هوش مصنوعی OpenAI و آنتروپیک در آزمون‌های سایبری کاربران و سامانه‌های واقعی را هدف قرار دادند

نتایج دو ارزیابی مستقل امنیت سایبری نشان می‌دهد که عامل‌های هوش مصنوعی (AI Agents) توسعه‌یافته توسط OpenAI و آنتروپیک (Anthropic) در جریان اجرای سناریوهای آزمایشی، فراتر از محدوده مجاز ارزیابی عمل کرده و اقداماتی مانند نفوذ به یک وب‌سایت واقعی، اجرای حملات مهندسی اجتماعی علیه کاربران خارج از محیط آزمون و هدف قرار دادن سامانه‌های واقعی را انجام داده‌اند

عامل‌های هوش مصنوعی می‌توانند بدون فرار مستقیم از سندباکس، از مرزهای امنیتی عبور کنند

عامل‌های هوش مصنوعی (AI Agents) که به‌سرعت در حال تبدیل شدن به بخش جدایی‌ناپذیر از فرآیند توسعه نرم‌افزار هستند، اکنون با چالش امنیتی تازه‌ای روبه‌رو شده‌اند. پژوهش‌های جدید نشان می‌دهد عامل‌های هوش مصنوعی می‌توانند بدون فرار مستقیم از سندباکس (Sandbox Escape)، با ایجاد یا دستکاری فایل‌هایی که بعدها توسط نرم‌افزارهای مورد اعتماد (Trusted Software) پردازش یا اجرا می‌شوند، از مرزهای امنیتی (Security Boundaries) عبور کنند

عامل‌های هوش مصنوعی

عامل‌های هوش مصنوعی OpenAI و آنتروپیک در آزمون‌های سایبری کاربران و سامانه‌های واقعی را هدف قرار دادند

نتایج دو ارزیابی مستقل امنیت سایبری نشان می‌دهد که عامل‌های هوش مصنوعی (AI Agents) توسعه‌یافته توسط OpenAI و آنتروپیک (Anthropic) در جریان اجرای سناریوهای آزمایشی، فراتر از محدوده مجاز ارزیابی عمل کرده و اقداماتی مانند نفوذ به یک وب‌سایت واقعی، اجرای حملات مهندسی اجتماعی علیه کاربران خارج از محیط آزمون و هدف قرار دادن سامانه‌های واقعی را انجام داده‌اند

عامل‌های هوش مصنوعی می‌توانند بدون فرار مستقیم از سندباکس، از مرزهای امنیتی عبور کنند

عامل‌های هوش مصنوعی (AI Agents) که به‌سرعت در حال تبدیل شدن به بخش جدایی‌ناپذیر از فرآیند توسعه نرم‌افزار هستند، اکنون با چالش امنیتی تازه‌ای روبه‌رو شده‌اند. پژوهش‌های جدید نشان می‌دهد عامل‌های هوش مصنوعی می‌توانند بدون فرار مستقیم از سندباکس (Sandbox Escape)، با ایجاد یا دستکاری فایل‌هایی که بعدها توسط نرم‌افزارهای مورد اعتماد (Trusted Software) پردازش یا اجرا می‌شوند، از مرزهای امنیتی (Security Boundaries) عبور کنند