تهدیدات حوزه هوش مصنوعی

پژوهشگران امنیت سایبری هشدار داده‌اند که مجرمان سایبری از یک تکنیک جدید برای دور زدن سیستم‌های محافظتی شبکه اجتماعی X (توییتر سابق) در برابر تبلیغات مخرب استفاده می‌کنند. این روش…

محققان حمله جدیدی طراحی کرده‌اند که با تزریق پرامپت‌های مخرب در تصاویر پردازش‌شده توسط سیستم‌های هوش مصنوعی، داده‌های کاربران را سرقت می‌کند و سپس این تصاویر به مدل‌های زبانی بزرگ…

یک آسیب‌پذیری‌ که محققان آن را CurXecute نامیده‌اند، در تقریبا تمام نسخه‌های ویرایشگر کد مبتنی بر هوش مصنوعی Cursor IDE وجود دارد و می‌تواند برای اجرای کد از راه دور…

یک هکر کدی برای حذف داده در نسخه‌ای از افزونه Q Developer آمازون، که یک دستیار هوش مصنوعی کدنویسی مولد برای Visual Studio Code است، تزریق کرده است. جزئیات حمله…

کمیسیونر حفاظت از داده‌های برلین به‌طور رسمی از گوگل و اپل درخواست کرده تا اپلیکیشن هوش مصنوعی DeepSeek را به دلیل نقض مقررات عمومی حفاظت از داده‌ها (GDPR) از فروشگاه‌های…

پژوهشگران امنیت سایبری تکنیک حمله جدیدی به نام TokenBreak کشف کرده‌اند که با تغییر تنها یک کاراکتر، قادر به دور زدن حفاظ‌های ایمنی و moderation محتوای مدل‌های زبان بزرگ (LLM)…

جزئیات آسیب‌پذیری GitLab Duo پژوهشگران امنیت سایبری یک آسیب‌پذیری مربوط به تزریق پرامپت را در دستیار هوش مصنوعی GitLab Duo کشف کردند که به مهاجمان امکان سرقت کد منبع، تزریق…

گروه‌های هکری از ابزارهای جعلی هوش مصنوعی به‌عنوان طعمه برای فریب کاربران و آلوده کردن آن‌ها به بدافزار سرقت اطلاعات Noodlophile، استفاده می‌کنند. شرکت Morphisec گزارش داد که مهاجمان به‌جای…

تقریباً ۱۲,۰۰۰ کلید و گذرواژه معتبر API در مجموعه داده‌های Common Crawl که برای آموزش مدل‌های مختلف هوش مصنوعی استفاده می‌شود، کشف شده است. سازمان غیرانتفاعی Common Crawl یک مخزن…

به تازگی یک چت ‌بات جدید مبتنی بر هوش مصنوعی به نام BlackBastaGPT منتشر گشته که بر اساس بیش از یک میلیون پیام داخلی فاش‌ شده از گروه باج‌ افزار…