با نزدیک شدن به انتخابات ریاستجمهوری ۲۰۲۴ ایالات متحده، نگرانیها در مورد تأثیر هوش مصنوعی و فناوری دیپفیک بر روند انتخابات تشدید شده است.
دیپفیکها محتوای دیجیتال شامل فیلم، عکس یا صداهای بسیار متقاعدکننده و فریبندهای هستند که با استفاده از هوش مصنوعی و اغلب برای اهداف گمراهکننده یا متقلبانه تولید میشوند.
کارشناسان در زمینه هوش مصنوعی و تشخیص دیپفیک به اپک تایمز اطلاعات مفیدی در مورد چالشهای ایجاد شده توسط اطلاعات نادرست و گمراهکننده تولید شده توسط هوش مصنوعی ارائه دادند و درباره تلاشهایی که برای مقابله با آنها انجام میشود، توضیح دادند.
ریجول گوپنا، یکی از بنیانگذاران و مدیر عامل DeepMedia_AI، با اشاره به افزایش هشداردهنده فناوری دیپفیک و پیامدهای آن برای انتخابات ۲۰۲۴ گفت: «مداخله دیپفیک در انتخابات ۲۰۲۴ فراگیر خواهد بود و دلیل این امر نیز دسترسی به این تکنولوژی است. نسخههای ابتدایی این تکنولوژی در سال ۲۰۲۰ وجود داشت، اما کیفیت آن برای فریب مردم کافی نبود. مردم هنوز میتوانستند بگویند که این محتوا جعلی است.»
آقای گوپتا گفت که کیفیت تکنولوژی ساخت دیپفیک در سال ۲۰۲۲ بهبود یافت و ماهانه به پیشرفت خود ادامه میدهد و کیفیت محتوایی از این دست به اندازهای خوب است که یک فرد معمولی بتواند آن را در تیکتاک یا یوتیوب ببیند یا بشنود و متقاعد شود که واقعی است.
این کارشناس هوش مصنوعی اضافه کرد که اکنون ابزارهای ساخت دیپفیک به صورت آنلاین و معمولاً رایگان در دسترس عموم هستند.
او گفت: «بیشتر اوقات، شما حتی نیازی به کارت اعتباری ندارید و میتوانید تنها در پنج ثانیه از هر کسی محتوای جعلی درست کنید. این چیز جدیدی است که در چند ماه گذشته اتفاق افتاده و به همین دلیل سال ۲۰۲۴ سال انتخابات دیپفیک خواهد بود.»
آقای گوپتا افزود: «این یکی از دلایل مهمی است که باعث شد من DeepMedia را برای مبارزه با اطلاعات نادرست و اطلاعات گمراهکننده تأسیس کنم.»
تشخیص دیپفیک
خانم اما براون شریک آقای گوپتا، یکی از بنیانگذاران DeepMedia، بر اهمیت روشهای تشخیص دقیق و مقیاسپذیر برای مقابله با تهدید فزاینده دیپفیک، تأکید دارد.
شرکت DeepMedia قابلیتهای پیشرفته و هوشمند تشخیص دیپفیک را توسعه داده است که به گفته آنها توسط دولت ایالات متحده و شرکتهای سراسر جهان تأیید شده است.
خانم براون گفت که DeepMedia دارای دقیقترین قابلیتهای تشخیص چهره و صدا در سطح جهانی است که از شناسایی قابل اعتماد محتوای تولید شده توسط هوش مصنوعی اطمینان میدهد.
خانم براون اظهار داشت که DeepMedia از دقیقترین قابلیتهای تشخیص تصویر و صدا در سطح جهان برخوردار است، تضمین میکند که به طرز قابلاعتمادی محتوای تولید شده توسط هوش مصنوعی تشخیص داده شود.
او گفت که مقیاسپذیری عامل دیگری است که برای شرکت مهم است و افزود که DeepMedia روزانه توانایی پردازش تعداد زیادی ویدئو را دارد که امکان شناسایی سریع دیپفیکها را در مجموعه دادههای فراوان فراهم میکند.
توانمندسازی عموم
DeepMedia با درک نیاز به آگاهی عمومی و مشارکت در مبارزه با اطلاعات نادرست تولید شده توسط هوش مصنوعی، اخیراً قابلیتهای تشخیص دیپفیک خود را به صورت رایگان در شبکه اجتماعی ایکس، که قبلاً توییتر نامیده میشد، در دسترس قرار داده است.
آقای گوپتا گفت که کاربران میتوانند DeepMedia@ را تگ کنند و هشتگ #DeepID را به هر محتوای رسانهای اضافه کنند، و ربات توییتر DeepMedia فوراً محتوا را از طریق سیستم تشخیص دیپفیک خود ارزیابی و نتایج را ارائه میکند.
او اضافه کرد: «ما امیدواریم که این امر به شهروندان معمولی و شهروند خبرنگاران ابزارهای لازم برای محافظت از خود در برابر اطلاعات نادرست تولید شده توسط هوش مصنوعی ارائه دهد.»
انتخابات ریاستجمهوری سال ۲۰۲۴ ایالات متحده به عنوان یک آزمون مهم برای توانایی مبارزه با نفوذ دیپفیک بر درک عمومی و نتایج انتخابات عمل خواهد کرد. آقای گوپتا تأکید کرد که این چالش فراتر از راه حل های فنی است و او از مردم میخواهد که هوشیار و آگاه باشند.
آقای گوپتا گفت: ادغام هوش مصنوعی و انتخابات مستلزم توجه و اقدام جمعی ما برای محافظت از یکپارچگی فرایندهای دموکراتیک است.
وقتی از خانم براون پرسیده شد که آیا تا کنون محتوای تولید شده با هوش مصنوعی یا دیپفیک مرتبط با انتخابات ۲۰۲۴ مورد توجه قرار گرفتهاند، گفت که تا کنون موارد معدودی تولید شده که مورد توجه قرار نگرفتهاند.
ظاهراً یک ویدئوی جعلی نشان میدهد که هیلاری کلینتون از فرماندار ران دیسانتیس، نامزد ریاستجمهوری حمایت میکند.
خانم براون گفت: «این ویدئو کاملاً جعلی بود و آشکارسازهای ما توانستند آن را با درجه بالایی از دقت شناسایی کنند.» اما مواردی از این دست میتواند برای کمپین دیسانتیس آسیبزا باشد.
از سوی دیگر جیم کاسکاد، مدیر عامل شرکت هوش مصنوعی Conversica دیدگاه منحصر به فردی در مورد نقش هوش مصنوعی در انتخابات ۲۰۲۴ ارائه کرد و گفت: «ما توسط هدف مثبت و جنبهای از کارکردهای هوش مصنوعی که به نفع مردم است، پیش میرویم.»
آقای کاسکاد گفت که هوش مصنوعی میتواند در انتخابات نیروی خوبی باشد. ابزارهای مبتنی بر هوش مصنوعی میتوانند ارتباطات را تقویت کنند، بینشهای ارزشمندی در مورد اولویتهای رأیدهندگان ارائه دهند و تلاشهای کمپین را سادهتر کنند.
او با این حال تأکید کرد که ایجاد تعادل بین استفاده از هوش مصنوعی برای اهداف مثبت و محافظت در برابر سوء استفاده از آن ضروری است.
او با اذعان به اینکه در حال حاضر تکنولوژی به طور کامل قادر به تشخیص محتوای واقعی از جعلی نیست گفت که هنوز میتوان با ارزیابی اعتبار منابعی که اطلاعات را ارائه میدهند بااحتیاط وارد عمل شد و در برابر اطلاعات غلط از خود محافظت کرد.
آقای کاسکاد از نامزدهای پست ریاستجمهوری خواست تا سیاستها و مقرراتی را در مورد هوش مصنوعی پیشنهاد کنند که تضمین کند استفاده از این فناوری به جای آسیبزدن و تفرقهافکنی، برای جامعه مفید باشد.
