تهدیدات حوزه هوش مصنوعی

در ماجرای آسیب‌پذیری React2Shell، نمونه‌های PoCهای جعلی یا ناقص، غیرعملیاتی یا کاملاً سطحی، باعث سردرگمی گسترده و حتی ایجاد یک حس امنیت کاذب شدند. این سؤال حالا جدی‌تر از همیشه…

پژوهشگران بیش از ۳۰ نقص امنیتی در مجموعه‌ای از IDEهای مجهز به هوش مصنوعی مخصوص کدنویسی کشف کرده‌اند؛ محیط‌هایی که با ترکیب قابلیت‌های هوش مصنوعی و ویژگی‌های داخلی IDE، زمینه…

کاوشگران امنیت سایبری جزئیات یک بسته‌ی npm را منتشر کرده‌اند که تلاش می‌کند ابزارهای امنیتی مبتنی بر هوش مصنوعی را تحت‌تأثیر قرار دهد و تصمیم‌گیری آن‌ها را منحرف کند. بسته‌ی…

یک تحقیق جدید نشان می‌دهد نسخه‌های دستکاری‌شده‌ی مدل‌های زبانی بزرگ (LLM) در دارک‌وب با هدف کمک به افراد بی‌تجربه در اجرای حملات سایبری منتشر شده‌اند. این مدل‌ها بدون هیچ محدودیت…

پژوهشگران امنیت سایبری هشدار داده‌اند که مجرمان سایبری از یک تکنیک جدید برای دور زدن سیستم‌های محافظتی شبکه اجتماعی X (توییتر سابق) در برابر تبلیغات مخرب استفاده می‌کنند. این روش…

محققان حمله جدیدی طراحی کرده‌اند که با تزریق پرامپت‌های مخرب در تصاویر پردازش‌شده توسط سیستم‌های هوش مصنوعی، داده‌های کاربران را سرقت می‌کند و سپس این تصاویر به مدل‌های زبانی بزرگ…

یک آسیب‌پذیری‌ که محققان آن را CurXecute نامیده‌اند، در تقریبا تمام نسخه‌های ویرایشگر کد مبتنی بر هوش مصنوعی Cursor IDE وجود دارد و می‌تواند برای اجرای کد از راه دور…

یک هکر کدی برای حذف داده در نسخه‌ای از افزونه Q Developer آمازون، که یک دستیار هوش مصنوعی کدنویسی مولد برای Visual Studio Code است، تزریق کرده است. جزئیات حمله…

کمیسیونر حفاظت از داده‌های برلین به‌طور رسمی از گوگل و اپل درخواست کرده تا اپلیکیشن هوش مصنوعی DeepSeek را به دلیل نقض مقررات عمومی حفاظت از داده‌ها (GDPR) از فروشگاه‌های…

پژوهشگران امنیت سایبری تکنیک حمله جدیدی به نام TokenBreak کشف کرده‌اند که با تغییر تنها یک کاراکتر، قادر به دور زدن حفاظ‌های ایمنی و moderation محتوای مدل‌های زبان بزرگ (LLM)…