سازمانهای نظارتی و فناوری در اوایل سال جاری، هشدار دادند که هوش مصنوعی میتواند باعث ایجاد هرج و مرج در انتخابات ۲۰۲۴ ایالات متحده شود و اطلاعات نادرست را از طریق دیپ فیکها (Deepfake یا جعل عمیق) و کمپینهای تبلیغات سیاسی منتشر کند.
دیپ فیکها تصاویر، صدا و ویدئوهای ساختهشدهای هستند که توسط هوش مصنوعی تولید میشوند و برای تکرار واقعیت طراحی شدهاند. اساساً، اینها نسخههای بسیار متقاعدکنندهای هستند از آنچه که امروزه «جعل ارزان یا cheapfakes » نامیده میشوند. تصاویر تغییر یافته با استفاده از ابزارهایی مانند فتوشاپ و نرمافزار ویرایش ویدیو ساخته میشوند.
پتانسیل دیپ فیک برای فریب رای دهندگان زمانی آشکار گردید که یک تماس رباتیک توسط هوش مصنوعی قبل از انتخابات مقدماتی ژانویه 2024 با جعل هویت جو بایدن انجام شد و به دموکراتها توصیه کرد که آرای خود را برای ماه نوامبر ذخیره کنند.
این ترسها به افکار عمومی سرایت کرد و طبق نظرسنجی اخیر Pew، بیش از نیمی از افراد واجد شرایط رای دادن در آمریکا به شدت نگران تأثیرات منفی هوش مصنوعی بر انتخابات هستند.
با توجه به اینکه تنها دو روز مانده به انتخابات ریاست جمهوری آمریکا، به نظر میرسد که ترس از منحرف شدن انتخابات یا تحریف آن توسط هوش مصنوعی زیاد شده است. تهدیدات ناشی از سوء استفاده از فناوریهای هوش مصنوعی بیش از هر زمان دیگری توجهات را به خود جلب کرده است.
دیپ فیکهای سیاسی تا کنون در سراسر رسانههای اجتماعی به اشتراک گذاشته شدهاند. هوش مصنوعی مولد از قبل تأثیر آشکاری بر سیاست جهانی داشته است. نامزدها از هوش مصنوعی استفاده کردند تا مردم را با هجمهای از مقالات، تصاویر و ویدیوهای دیپ فیک تحت تاثیر قرار دهند.
نمونههای اخیر استفاده از دیپ فیک برای شبیهسازی تصاویر یا کلیپهای صوتی و تصویری سیاستمداران آمریکایی، نگرانیها درباره پیامدهای بالقوه این فناوریها برای سلامت فرآیندهای دموکراتیک را افزایش داده است.
در عین حال، محققان هشدار میدهند که تأثیرات هوش مصنوعی مولد بر این چرخه انتخاباتی، بهویژه به دلیل استقرار آن در پلتفرمهای پیامرسان خصوصی، هنوز به طور کامل درک نشده است. آنها همچنین معتقدند که حتی اگر تاثیر هوش مصنوعی بر این کمپین ضعیف به نظر برسد، احتمالاً در انتخابات آتی با بهبود فناوری و افزایش استفاده از آن در بین عموم مردم و فعالان سیاسی، افزایش خواهد یافت.
با این حال، دیپ فیک های سیاسی توسط سیاستمداران، از جمله دونالد ترامپ رئیس جمهور سابق آمریکا، افزایش یافته است.
دونالد ترامپ با انتشار تصاویری از تیلور سوئیفت که با هوش مصنوعی ساخته شده بود، مدعی حمایت این شخصیت هنری از وی در انتخابات ریاست جمهوری آمریکا در سال ۲۰۲۴ شد. امری که واکنشهای زیادی را در پی داشت.
در ماه سپتامبر نیز، ویدئویی که با یک کمپین اطلاعاتی نادرست روسی مرتبط بود، کامالا هریس را متهم به دست داشتن در یک تصادف کرد و میلیونها بار در شبکههای اجتماعی وایرال شد.
بطور کلی، فناوری بهبودیافته هوش مصنوعی در کنار مزایا و فرصتهای غیر قابل انکاری که دارد میتواند در چنین شرایطی منجر به تاثیرات سیاسی منفی شود. تولید کلیپهای ویدیویی و صوتی دیپ فیک باورپذیر و انتشار اطلاعات نادرست، خود باعث افزایش بیاعتمادی نسبت به همه پیامهای سیاسی و صحت آن خواهد شد.
