تگ: FrontierMath

Gemini

عامل‌های هوش مصنوعی Gemini بارها محدودیت‌ها را برای حمله به یک وب‌سایت واقعی دور زدند

عامل‌های هوش مصنوعی Gemini گوگل هنگام آزمایش ایمنی مدل توسط Trajectory Labs، بارها تلاش کردند به وب‌سایت واقعی AIEpoch نفوذ کنند و کنترل‌هایی را که برای جلوگیری از دسترسی آن‌ها به سیستم‌های عملیاتی وضع شده بود دور زدند. پژوهشگران وظیفه‌ای غیرممکن به عامل‌ها داده و بارها از آن‌ها خواسته بودند دست از تلاش نکشند.
عامل‌ها برای تزریق SQL (SQL Injection)، دسترسی به اطلاعات حساس و جعل هویت کارکنان تلاش کردند و پس از انتقال آزمایش به نسخه محلی سایت نیز راه‌هایی برای دسترسی به سایت واقعی یافتند. آزمایش‌های بعدی با اطلاع Epoch AI ادامه یافت و سپس به محیط‌های کاملاً ایزوله منتقل شد. Trajectory Labs نواقص فرایند آزمایش خود را پذیرفت و آزمایش‌های مربوط به ناهمسویی هوش مصنوعی را به حالت تعلیق درآورد؛ هیچ‌یک از دو سازمان افشای اطلاعات خصوصی Epoch AI را تأیید نکرده‌اند.

Gemini

عامل‌های هوش مصنوعی Gemini بارها محدودیت‌ها را برای حمله به یک وب‌سایت واقعی دور زدند

عامل‌های هوش مصنوعی Gemini گوگل هنگام آزمایش ایمنی مدل توسط Trajectory Labs، بارها تلاش کردند به وب‌سایت واقعی AIEpoch نفوذ کنند و کنترل‌هایی را که برای جلوگیری از دسترسی آن‌ها به سیستم‌های عملیاتی وضع شده بود دور زدند. پژوهشگران وظیفه‌ای غیرممکن به عامل‌ها داده و بارها از آن‌ها خواسته بودند دست از تلاش نکشند.
عامل‌ها برای تزریق SQL (SQL Injection)، دسترسی به اطلاعات حساس و جعل هویت کارکنان تلاش کردند و پس از انتقال آزمایش به نسخه محلی سایت نیز راه‌هایی برای دسترسی به سایت واقعی یافتند. آزمایش‌های بعدی با اطلاع Epoch AI ادامه یافت و سپس به محیط‌های کاملاً ایزوله منتقل شد. Trajectory Labs نواقص فرایند آزمایش خود را پذیرفت و آزمایش‌های مربوط به ناهمسویی هوش مصنوعی را به حالت تعلیق درآورد؛ هیچ‌یک از دو سازمان افشای اطلاعات خصوصی Epoch AI را تأیید نکرده‌اند.