گوگل به تازگی اعلام کرد که اقدامات جدیدی مبتنی بر هوش مصنوعی را برای مقابله با کلاهبرداری‌ها در کروم، جستجوی گوگل و اندروید عرضه می‌کند. این غول فناوری گفت که قرار است از Gemini Nano، مدل زبانی بزرگ (LLM) مبتنی بر دستگاه(on-device)، برای بهبود قابلیت مرور ایمن (Safe Browsing) در نسخه ۱۳۷ کروم دسکتاپ استفاده کند.
گوگل اعلام کرد که رویکرد مبتنی بر دستگاه این شرکت امکان شناسایی سریع وب‌سایت‌های پرخطر را فراهم می‌کند و محافظت در برابر کلاهبرداری‌های جدید و ناشناخته را ممکن می‌سازد. مدل زبانی بزرگ Gemini Nano به‌دلیل توانایی تحلیل محتوای متنوع و پیچیده وب‌سایت‌ها برای این منظور مناسب است و به سازگاری سریع‌تر با تاکتیک‌های جدید کلاهبرداری کمک می‌کند.
این شرکت گزارش داد که از این رویکرد هوش مصنوعی برای مقابله با کلاهبرداری‌های پشتیبانی فنی از راه دور استفاده می‌کند. این کلاهبرداری‌ها معمولا کاربران را با ادعای وجود مشکلات جعلی در رایانه‌شان فریب می‌دهند تا اطلاعات شخصی یا مالی خود را افشا کنند.
نحوه مقابله با کلاهبرداری در هوش مصنوعی گوگل
فرایند کار به این صورت است که LLM، صفحات وب را برای شناسایی نشانه‌های کلاهبرداری پشتیبانی فنی، مانند استفاده از API قفل صفحه‌کلید، بررسی می‌کند. سپس سیگنال‌های امنیتی استخراج‌شده به سیستم مرور ایمن ارسال می‌شوند تا مشخص شود آیا صفحه موردنظر احتمالا کلاهبرداری است یا خیر.
تیم امنیتی کروم گوگل توضیح دادند که برای مدیریت منابع، مدل زبانی بزرگ تنها در مواقع ضروری و به‌صورت محلی روی دستگاه فعال می‌شود. این فرایند با محدود کردن تعداد توکن‌های استفاده‌شده، اجرای غیرهمزمان برای جلوگیری از اختلال در مرورگر و استفاده از مکانیزم‌های محدودسازی و سهمیه‌بندی برای کاهش فشار بر GPU انجام می‌شود.
سایر اقدامات گوگل برای شناسایی کلاهبرداری مبتنی بر هوش مصنوعی
گوگل اعلام کرد که قصد دارد این فناوری را برای شناسایی سایر انواع کلاهبرداری‌ها، مانند موارد مرتبط با رهگیری مرسوله‌ها و عوارض پرداخت‌نشده، گسترش دهد. انتظار می‌رود این قابلیت تا پایان سال ۲۰۲۵ برای نسخه اندرویدی کروم نیز عرضه شود.
این شرکت همچنین گزارش داد که سیستم‌های شناسایی کلاهبرداری مبتنی بر هوش مصنوعی خود را ارتقا داده تا ۲۰ برابر صفحات فریبنده بیشتری را شناسایی و از نتایج جستجو حذف کند. این بهبود باعث کاهش بیش از ۸۰٪ کلاهبرداری‌های جعل خدمات مشتری شرکت‌های هواپیمایی و بیش از ۷۰٪ موارد تقلید از منابع رسمی مانند ویزا و خدمات دولتی در سال ۲۰۲۴ شده است.
گوگل همچنین از راه‌اندازی قابلیت هشدار جدیدی برای نسخه اندرویدی کروم خبر داد که از مدل یادگیری ماشینی مبتنی بر دستگاه استفاده می‌کند. این قابلیت اعلان‌های ناخواسته وب‌سایت‌های مخرب را که برای فریب کاربران به دانلود نرم‌افزار مشکوک یا افشای اطلاعات حساس طراحی شده‌اند، شناسایی و به کاربران هشدار می‌دهد. در صورت شناسایی چنین اعلانی، نام سایت، هشداری درباره محتوای فریبنده و گزینه‌هایی برای لغو اشتراک یا مشاهده محتوای مشکوک نمایش داده می‌شود.
این قابلیت‌ها حدود دو ماه پس از معرفی ابزارهای شناسایی کلاهبرداری مبتنی بر هوش مصنوعی در اپلیکیشن Messages اندروید عرضه می‌شوند. گوگل سال گذشته نیز روش‌هایی برای شناسایی تماس‌های کلاهبرداری ارائه کرده بود.
این به‌روزرسانی‌ها در حالی ارائه می‌شوند که گوگل در حال توسعه قابلیتی به‌نام محافظت پیشرفته برای اندروید ۱۶ است. این قابلیت شامل غیرفعال‌سازی جاوااسکریپت، قطع اتصال‌های 2G و فعال‌سازی پیش‌فرض ویژگی‌هایی مانند قفل شناسایی سرقت، قفل آفلاین دستگاه، مرور امن اندروید و محافظت در برابر اسپم در Messages می‌شود.
گزارش‌ها همچنین حاکی از آن است که گوگل در حال توسعه فناوری‌ای برای شناسایی کلاهبرداری‌هایی است که قربانیان را طی تماس تلفنی به باز کردن اپلیکیشن بانکی‌شان ترغیب می‌کنند.
