دسته‌بندی: تهدیدات حوزه هوش مصنوعی

آسیب‌پذیری رابط برنامه‌نویسی

آسیب‌پذیری رابط برنامه‌نویسی اوپن‌ای‌آی، آنتروپیک و گوگل امکان استخراج استدلال مدل‌های قدرتمندتر توسط مدل‌های ضعیف‌تر را فراهم کرد

پژوهشگران به‌تازگی جزئیات نگران‌کننده‌ای از یک آسیب‌پذیری رابط برنامه‌نویسی (API) در زیرساخت‌های اوپن‌ای‌آی(OpenAI) ، آنتروپیک و گوگل منتشر کرده‌اند که امکان استخراج استدلال داخلی مدل‌های قدرتمند را فراهم می‌کند. این آسیب‌پذیری رابط برنامه‌نویسی به مهاجمان اجازه می‌دهد با استفاده از مدل‌های هوش مصنوعی ضعیف‌تر، محتوای استدلال پنهان مدل‌های قدرتمندتر را استخراج و بازسازی کرده و اطلاعات حساسی مانند کلیدهای API و رمزهای عبور را از لاگ‌های نشست بازیابی کنند.

GPT 5.6 Cyber

شرکت OpenAI مدل GPT 5.6 Cyber را عرضه کرد اما امکان دسترسی به آن فقط برای شرکای تأییدشده فراهم شده است

شرکت OpenAI مدل GPT 5.6 Cyber را با تمرکز بر تحقیقات آسیب‌پذیری، تست نفوذ و پاسخ‌گویی به رخدادهای امنیتی توسعه داده است. GPT 5.6 Cyber برخلاف مدل‌های عمومی برای کاربران عادی در دسترس نیست و OpenAI دسترسی به آن را به شرکت‌های تأییدشده و مجموعه‌های فعال در حوزه امنیت سایبری محدود کرده است.

مدل آسترا

عملکرد قدرتمند سایبری مدل آسترا، OpenAI را به توقف برخی فعالیت‌های داخلی واداشت

شرکت OpenAI پس از ارزیابی داخلی مدل آسترا (Astra Model) اعلام کرده است که این مدل در زمینه کدنویسی عامل‌محور (Agentic Coding) و امنیت سایبری به پیشرفت‌های چشمگیری دست یافته است. این پیشرفت‌ها به حدی بوده که OpenAI نمی‌تواند احتمال برخورداری مدل آسترا از قابلیت‌های سایبری در سطح «بحرانی» (Critical) را رد کند.

یک هکر چینی‌زبان با استفاده از دیپ‌سیک حملات سایبری خودکار علیه سرورهای آسیب‌پذیر انجام می‌دهد

ظهور نسل جدیدی از حملات سایبری خودکار نشان می‌دهد که هوش مصنوعی تا چه اندازه می‌تواند فرآیندهای تهاجمی سایبری را بدون نظارت مستمر انسان پیش ببرد. یک عامل تهدید چینی‌زبان با استفاده از مدل هوش مصنوعی دیپ‌سیک (DeepSeek) و فریم‌ورک متن‌باز هرمس ایجنت (Hermes Agent)، سرورهای قابل دسترسی عمومی از طریق اینترنت را با حداقل دخالت انسانی شناسایی کرده و برای اجرای اکسپلویت روی آن‌ها تلاش کرده است

هاگینگ فیس

عامل هوش مصنوعی OpenAI در نفوذ به هاگینگ فیس از اعتبارنامه‌های افشاشده در 4 سرویس استفاده کرد

OpenAI اعلام کرده است مدل‌های هوش مصنوعی این شرکت در حمله به هاگینگ فیس (Hugging Face)، علاوه بر دسترسی به زیرساخت این پلتفرم، با استفاده از اعتبارنامه‌های عمومی افشاشده به حساب‌های کاربری در چهار سرویس شخص ثالث نیز دسترسی پیدا کرده‌اند

آسیب‌پذیری روز صفر آرتیفکتوری

شرکت JFrog سوءاستفاده مدل‌های OpenAI از آسیب‌پذیری روز صفر آرتیفکتوری پیش از نفوذ به هاگینگ‌فیس را تأیید کرد

شرکت JFrog تأیید کرده است که مدل‌های OpenAI در جریان تلاش برای عبور از یک محیط ارزیابی ایزوله و دسترسی به اینترنت عمومی، از آسیب‌پذیری روز صفر آرتیفکتوری(Artifactory Zero-Day Vulnerability) در نسخه خودمیزبان (Self-Hosted) این پلتفرم سوءاستفاده کرده‌اند.

عامل‌های هوش مصنوعی

عامل‌های هوش مصنوعی OpenAI و آنتروپیک در آزمون‌های سایبری کاربران و سامانه‌های واقعی را هدف قرار دادند

نتایج دو ارزیابی مستقل امنیت سایبری نشان می‌دهد که عامل‌های هوش مصنوعی (AI Agents) توسعه‌یافته توسط OpenAI و آنتروپیک (Anthropic) در جریان اجرای سناریوهای آزمایشی، فراتر از محدوده مجاز ارزیابی عمل کرده و اقداماتی مانند نفوذ به یک وب‌سایت واقعی، اجرای حملات مهندسی اجتماعی علیه کاربران خارج از محیط آزمون و هدف قرار دادن سامانه‌های واقعی را انجام داده‌اند

کانتکست بمبینگ

کانتکست بمبینگ آغازگر نسل جدیدی از دفاع سایبری مبتنی بر فناوری‌های فریب در عصر هوش مصنوعی

با افزایش استفاده مهاجمان از عامل‌های هوش مصنوعی (AI Agents) برای خودکارسازی مراحل مختلف حملات سایبری، پژوهشگران تکنیکی نوآورانه با نام کانتکست بمبینگ (Context Bombing) معرفی کرده‌اند که می‌تواند رویکرد دفاع سایبری را متحول کند.

بنچمارک مهندسی معکوس

بنچمارک مهندسی معکوس محدودیت مدل‌های پیشرفته هوش مصنوعی را آشکار کرد

شرکت SentinelOne با معرفی یک بنچمارک مهندسی معکوس جدید، توانایی مدل‌های پیشرفته هوش مصنوعی را در انجام تحقیقات پیچیده امنیتی مورد ارزیابی قرار داده است. این بنچمارک که بر اساس پرونده بدافزار Fast16 توسعه یافته، بررسی می‌کند

مدل هوش مصنوعی متا

مدل هوش مصنوعی متا به‌دلیل پیکربندی نادرست محیط آزمایش امنیتی، یک شرکت واقعی را هک کرد

مدل هوش مصنوعی متا (Meta) در جریان یک ارزیابی امنیت سایبری، به‌دلیل پیکربندی نادرست محیط آزمایش به اینترنت عمومی دسترسی پیدا کرد و موفق شد به یک شرکت واقعی نفوذ کرده و تغییراتی در سیستم‌های داخلی آن ایجاد کند. این رخداد پس از آن رقم خورد که OpenAI از نفوذ عامل‌های (Agent) هوش مصنوعی خود به زیرساخت‌های هاگینگ فیس (Hugging Face) خبر داده بود

آسیب‌پذیری رابط برنامه‌نویسی

آسیب‌پذیری رابط برنامه‌نویسی اوپن‌ای‌آی، آنتروپیک و گوگل امکان استخراج استدلال مدل‌های قدرتمندتر توسط مدل‌های ضعیف‌تر را فراهم کرد

پژوهشگران به‌تازگی جزئیات نگران‌کننده‌ای از یک آسیب‌پذیری رابط برنامه‌نویسی (API) در زیرساخت‌های اوپن‌ای‌آی(OpenAI) ، آنتروپیک و گوگل منتشر کرده‌اند که امکان استخراج استدلال داخلی مدل‌های قدرتمند را فراهم می‌کند. این آسیب‌پذیری رابط برنامه‌نویسی به مهاجمان اجازه می‌دهد با استفاده از مدل‌های هوش مصنوعی ضعیف‌تر، محتوای استدلال پنهان مدل‌های قدرتمندتر را استخراج و بازسازی کرده و اطلاعات حساسی مانند کلیدهای API و رمزهای عبور را از لاگ‌های نشست بازیابی کنند.

GPT 5.6 Cyber

شرکت OpenAI مدل GPT 5.6 Cyber را عرضه کرد اما امکان دسترسی به آن فقط برای شرکای تأییدشده فراهم شده است

شرکت OpenAI مدل GPT 5.6 Cyber را با تمرکز بر تحقیقات آسیب‌پذیری، تست نفوذ و پاسخ‌گویی به رخدادهای امنیتی توسعه داده است. GPT 5.6 Cyber برخلاف مدل‌های عمومی برای کاربران عادی در دسترس نیست و OpenAI دسترسی به آن را به شرکت‌های تأییدشده و مجموعه‌های فعال در حوزه امنیت سایبری محدود کرده است.

مدل آسترا

عملکرد قدرتمند سایبری مدل آسترا، OpenAI را به توقف برخی فعالیت‌های داخلی واداشت

شرکت OpenAI پس از ارزیابی داخلی مدل آسترا (Astra Model) اعلام کرده است که این مدل در زمینه کدنویسی عامل‌محور (Agentic Coding) و امنیت سایبری به پیشرفت‌های چشمگیری دست یافته است. این پیشرفت‌ها به حدی بوده که OpenAI نمی‌تواند احتمال برخورداری مدل آسترا از قابلیت‌های سایبری در سطح «بحرانی» (Critical) را رد کند.

یک هکر چینی‌زبان با استفاده از دیپ‌سیک حملات سایبری خودکار علیه سرورهای آسیب‌پذیر انجام می‌دهد

ظهور نسل جدیدی از حملات سایبری خودکار نشان می‌دهد که هوش مصنوعی تا چه اندازه می‌تواند فرآیندهای تهاجمی سایبری را بدون نظارت مستمر انسان پیش ببرد. یک عامل تهدید چینی‌زبان با استفاده از مدل هوش مصنوعی دیپ‌سیک (DeepSeek) و فریم‌ورک متن‌باز هرمس ایجنت (Hermes Agent)، سرورهای قابل دسترسی عمومی از طریق اینترنت را با حداقل دخالت انسانی شناسایی کرده و برای اجرای اکسپلویت روی آن‌ها تلاش کرده است

هاگینگ فیس

عامل هوش مصنوعی OpenAI در نفوذ به هاگینگ فیس از اعتبارنامه‌های افشاشده در 4 سرویس استفاده کرد

OpenAI اعلام کرده است مدل‌های هوش مصنوعی این شرکت در حمله به هاگینگ فیس (Hugging Face)، علاوه بر دسترسی به زیرساخت این پلتفرم، با استفاده از اعتبارنامه‌های عمومی افشاشده به حساب‌های کاربری در چهار سرویس شخص ثالث نیز دسترسی پیدا کرده‌اند

آسیب‌پذیری روز صفر آرتیفکتوری

شرکت JFrog سوءاستفاده مدل‌های OpenAI از آسیب‌پذیری روز صفر آرتیفکتوری پیش از نفوذ به هاگینگ‌فیس را تأیید کرد

شرکت JFrog تأیید کرده است که مدل‌های OpenAI در جریان تلاش برای عبور از یک محیط ارزیابی ایزوله و دسترسی به اینترنت عمومی، از آسیب‌پذیری روز صفر آرتیفکتوری(Artifactory Zero-Day Vulnerability) در نسخه خودمیزبان (Self-Hosted) این پلتفرم سوءاستفاده کرده‌اند.

عامل‌های هوش مصنوعی

عامل‌های هوش مصنوعی OpenAI و آنتروپیک در آزمون‌های سایبری کاربران و سامانه‌های واقعی را هدف قرار دادند

نتایج دو ارزیابی مستقل امنیت سایبری نشان می‌دهد که عامل‌های هوش مصنوعی (AI Agents) توسعه‌یافته توسط OpenAI و آنتروپیک (Anthropic) در جریان اجرای سناریوهای آزمایشی، فراتر از محدوده مجاز ارزیابی عمل کرده و اقداماتی مانند نفوذ به یک وب‌سایت واقعی، اجرای حملات مهندسی اجتماعی علیه کاربران خارج از محیط آزمون و هدف قرار دادن سامانه‌های واقعی را انجام داده‌اند

کانتکست بمبینگ

کانتکست بمبینگ آغازگر نسل جدیدی از دفاع سایبری مبتنی بر فناوری‌های فریب در عصر هوش مصنوعی

با افزایش استفاده مهاجمان از عامل‌های هوش مصنوعی (AI Agents) برای خودکارسازی مراحل مختلف حملات سایبری، پژوهشگران تکنیکی نوآورانه با نام کانتکست بمبینگ (Context Bombing) معرفی کرده‌اند که می‌تواند رویکرد دفاع سایبری را متحول کند.

بنچمارک مهندسی معکوس

بنچمارک مهندسی معکوس محدودیت مدل‌های پیشرفته هوش مصنوعی را آشکار کرد

شرکت SentinelOne با معرفی یک بنچمارک مهندسی معکوس جدید، توانایی مدل‌های پیشرفته هوش مصنوعی را در انجام تحقیقات پیچیده امنیتی مورد ارزیابی قرار داده است. این بنچمارک که بر اساس پرونده بدافزار Fast16 توسعه یافته، بررسی می‌کند

مدل هوش مصنوعی متا

مدل هوش مصنوعی متا به‌دلیل پیکربندی نادرست محیط آزمایش امنیتی، یک شرکت واقعی را هک کرد

مدل هوش مصنوعی متا (Meta) در جریان یک ارزیابی امنیت سایبری، به‌دلیل پیکربندی نادرست محیط آزمایش به اینترنت عمومی دسترسی پیدا کرد و موفق شد به یک شرکت واقعی نفوذ کرده و تغییراتی در سیستم‌های داخلی آن ایجاد کند. این رخداد پس از آن رقم خورد که OpenAI از نفوذ عامل‌های (Agent) هوش مصنوعی خود به زیرساخت‌های هاگینگ فیس (Hugging Face) خبر داده بود