به نقل از «ایسنا»

تلاش غول‌های فناوری برای جلوگیری از دخالت «دیپ‌فیک» در انتخابات آمریکا

تاریخ انتشار: ۲۱ آبان ۱۴۰۲ | کد خبر: ۳۹۰۷۱۱۵۵

با توجه به گسترش یافتن استفاده از فناوری‌های مولد مبتنی بر هوش مصنوعی مانند «دیپ‌فیک»، شرکت‌های بزرگ فناوری سعی دارند از تاثیر احتمالی آنها بر انتخابات ۲۰۲۴ آمریکا جلوگیری کنند.

به گزارش ایسنا و به نقل از فست کمپانی، با وجود فناوری‌های مولد هوش مصنوعی که اکنون تقریبا برای همه در دسترس هستند، شاید فصل انتخابات سال آینده آمریکا فضای اطلاعاتی را به سالنی از آینه تبدیل کند که در آن هیچ کس مطمئن نباشد که چه محتوایی واقعی است و چه چیزی توسط هوش مصنوعی تولید شده است.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

اگر افراد سیاسی در سال‌های ۲۰۱۶ و ۲۰۲۰ رسانه‌های اجتماعی را به سلاح تبدیل کردند، در سال ۲۰۲۳ ممکن است با دیپ‌فیک‌ها به این عرصه وارد شوند.

آمریکایی‌ها اکنون از این احتمال می‌ترسند. نظرسنجی مشترک شرکت «مورنینگ کانسالت»(Morning Consult) و وب‌گاه «آکسیوس»(Axios) در ماه اوت نشان داد که بیش از نیمی از آمریکایی‌ها معتقدند اطلاعات نادرست به تعیین کردن برنده انتخابات ریاست جمهوری ۲۰۲۴ کمک خواهد کرد و بیش از یک سوم گفتند که هوش مصنوعی، اعتماد آنها را نسبت به نتیجه انتخابات آمریکا کاهش می‌دهد.

با رونق گرفتن هوش مصنوعی و رقابت‌های داغ انتخابات ۲۰۲۴، فشار بر کنگره آمریکا و شرکت‌های فناوری برای پیش گرفتن یک اقدام در حال افزایش است. در حالی که کنگره هفته پیش جلسه‌ای را در مورد این موضوع برگزار کرد، شرکت‌های «متا»(Meta) و «مایکروسافت»(Microsoft) گام‌های جدیدی را برای مقابله با دیپ‌فیک و سایر انواع هوش مصنوعی دستکاری‌کننده حقیقت برداشتند.

متا قوانین جدیدی را در مورد نحوه ارائه کردن محتوای سیاسی تولید شده به صورت عکس، ویدیو یا صدا در فیس‌بوک و اینستاگرام وضع کرد. این شرکت گفت از کمپین‌های سیاسی و گروه‌های ذی‌نفع می‌خواهد برچسب افشاگری را روی هرگونه تبلیغات سیاسی یا اجتماعی بگذارند که با استفاده از فناوری‌های هوش مصنوعی ایجاد می‌شود. به عنوان مثال، اگر گروه «دونالد ترامپ» از فناوری هوش مصنوعی برای تولید یک ویدیوی ساختگی از سقوط «جو بایدن» حین توقف مبارزات انتخاباتی استفاده کند، باید این واقعیت همراه با ویدیو فاش شود.

این سیاست که از ابتدای سال آینده آغاز می‌شود، برای همه تبلیغ‌کنندگان سیاسی در سراسر جهان اعمال خواهد شد. متا اولین محرک در فضای تبلیغاتی نبود. «گوگل» در ماه سپتامبر اعلام کرد تبلیغ‌کنندگان ملزم به برچسب زدن تبلیغات تولیدشده توسط هوش مصنوعی هستند که در پلتفرم‌های یوتیوب و گوگل اجرا می‌شوند.

همچنین، متا اذعان کرد که تبلیغ‌کنندگان را از به کار بردن فناوری‌های هوش مصنوعی خود برای ایجاد تبلیغات در گروه‌های حساس یا تحت نظارت مانند مسکن، اشتغال، اعتبار، سلامت، داروسازی یا خدمات مالی منع می‌کند. تبلیغات در گروه‌هایی که حاوی محتوای تولیدشده با استفاده از فناوری‌های شخص ثالث مانند «دال-ئی»(DALL-E) یا «میدجرنی»(Midjourney) هستند، به برچسب افشا نیاز دارند.

پلتفرم‌های اجتماعی، چندین گزینه را برای مقابله کردن با دیپ‌فیک دارند. چالش، یافتن رویکردی است که آسیب رسیدن به آزادی بیان و یکپارچگی انتخابات را به حداقل برساند. «کیتی هاربث»(Katie Harbath) مدیر سابق سیاست عمومی فیس بوک گفت: این پرسش فلسفی وجود دارد که آیا دیپ‌فیک‌ها باید از پلتفرم حذف شوند یا این که بررسی واقعیت، برچسب‌گذاری و کاهش توزیع آنها کافی است. این بیشتر یک پرسش پیرامون ارزش آزادی بیان است.

متا یک راه‌حل سبک‌تر را انتخاب کرد. این شرکت همه تبلیغات حاوی محتوای تولیدشده توسط هوش مصنوعی را ملزم نمی‌کند که دارای برچسب باشند. هاربث خاطرنشان کرد که وقتی محتوا به صورت دیجیتالی ایجاد می‌شود یا به روش‌هایی تغییر می‌کند که برای ادعا یا موضوع مطرح‌شده بی‌اهمیت است، نیازی به برچسب نیست.

«رابرت وایزمن»(Robert Weissman) عضو گروه حمایت از مصرف‌کننده «پابلیک سیزن»(Public Citizen) گفت که سازمان او ترجیح می‌دهد ممنوعیت کامل تبلیغات دیپ‌فیک سیاسی را ببیند اما او از تصمیم متا حمایت می‌کند. وی افزود: به کار بردن برچسب در این فضا می‌تواند آسیب را تا حد زیادی کاهش دهد.

ایرادی که پابلیک سیزن به متا وارد می‌کند، محدود کردن برچسب‌ها به دیپ‌فیک در تبلیغات است. این سازمان می‌گوید که برخی از تأثیرگذارترین و ویروسی‌ترین دیپ‌فیک‌های سیاسی ممکن است به‌عنوان پست‌های معمولی نشان داده شوند. وایزمن ادامه داد: دیپ‌فیک‌ها احتمالا به این دلیل بر انتخابات تأثیر می‌گذارند که رسمیت بیشتری را به همراه دارند.

توجه داشته باشید که سیاست رسانه‌ای دستکاری‌شده متا که همه محتوای فیس‌بوک و اینستاگرام را پوشش می‌دهد، با هدف حذف ویدیوی تولیدشده توسط هوش مصنوعی در پیش گرفته شده است و موضوع آن، جملاتی هستند که افراد مورد نظر نگفته‌اند.

شناسایی دیپ‌فیک‌های سیاسی در میان میلیاردها پست دیگر این پلتفرم، داستان دیگری است. هاربث گفت: این پرسش وجود دارد که این فناوری تا چه اندازه برای شناسایی پیشگیرانه دیپ‌فیک خوب است. این فقط مشکل متا نیست، بلکه یک مشکل در سطح صنعت است که سال‌ها روی آن کار کرده‌اند.

متا برای شناسایی کردن اطلاعات نادرست و سایر محتوای مضر، به شدت به سیستم‌های هوش مصنوعی متکی است اما این سیستم‌ها برای شناسایی کردن آن در برخی فرمت‌ها مانند «میم‌ها» تلاش کرده‌اند.

متا به درخواست‌های مصاحبه پاسخ نداد.

در حالی که متا سعی دارد از رای‌دهندگان در برابر گمراه شدن توسط هوش مصنوعی محافظت کند، مایکروسافت و دیگران بر ارائه فناوری‌هایی به کمپین‌های انتخاباتی برای کنترل محتوا و شباهت آنها تمرکز دارند. مایکروسافت فناوری جدیدی را برای علامت‌گذاری دیجیتالی معرفی کرد که به سازندگانی مانند کمپین‌های انتخاباتی امکان می‌دهد تا محتوای خود را به صورت دیجیتالی برچسب‌گذاری کنند تا مشخص شود که چه زمانی، چگونه، چرا و توسط چه کسی ساخته شده است. سپس، اگر طرف دیگری سعی داشته باشد محتوا را برای گمراه کردن(شاید با تغییر یا برچسب‌گذاری اشتباه) انتخاب کند، منشا و هدف واقعی عکس یا ویدیو را می‌توان به راحتی در داده‌های رمزنگاری موجود در فایل پیدا کرد. سرویس واترمارک دیجیتال در بهار سال پیش رو برای گروه کوچکی از کاربران شامل کمپین‌های سیاسی راه‌اندازی می‌شود.

اگرچه کمپین‌ها معمولا از فناوری‌های مایکروسافت برای ایجاد محتوای تبلیغاتی استفاده نمی‌کنند اما از محصولات امنیتی و بهره‌وری مایکروسافت برخوردار می‌شوند. به احتمال زیاد یک کمپین انتخاباتی از محصولات شرکت «ادوبی»(Adobe) برای ایجاد محتوای تبلیغاتی استفاده خواهند کرد. ادوبی نیز یک فناوری منبع باز به نام «Content Credentials» ارائه کرده است که می‌توان آن را در فناوری‌ها و پلتفرم‌های ایجاد محتوا جاسازی کرد. «نیویورک تایمز» و «وال استریت ژورنال» از این فناوری برای احراز هویت اخبار استفاده خواهند کرد. شرکت «انویدیا»(Nvidia) و یک استارتاپ هوش مصنوعی تولیدکننده تصویر موسوم به «Stability AI» از آن برای احراز هویت محتوای تولیدشده استفاده خواهند کرد. شرکت‌های سازنده دوربین عکاسی مانند «نیکون»(Nikon) و «لایکا»(Leica) آن را برای شناسایی تصاویر به کار خواهند برد.

صحنه سیاسی آمریکا قبلا شاهد آغاز استفاده کردن از دیپ‌فیک بوده است. در ماه ژوئن، کمپین «ران دسنتیس»(Ron DeSantis) سیاست‌مدار آمریکایی متهم شد تصاویر ایجادشده توسط هوش مصنوعی را از ترامپ در یک ویدیوی آنلاین منتشر کرده است. در ماه آوریل، «کمیته ملی جمهوری‌خواهان آمریکا»(RNC) یک تبلیغ ویدیویی را از یک آینده ویران‌شهری آمریکا با تصاویر تولیدشده توسط هوش مصنوعی منتشر کرد که در آن بایدن مجددا به عنوان رئیس‌جمهور انتخاب شد. البته در آن تبلیغ، استفاده کردن از هوش مصنوعی فاش شد.

اطلاعیه‌های متا و مایکروسافت هم‌زمان با یک جلسه استماع در مورد دیپ‌فیک‌ها منتشر شدند که توسط کمیته فرعی مجلس نمایندگان آمریکا در مورد امنیت سایبری، فناوری اطلاعات و نوآوری دولتی برگزار شد. قانون‌گذاران، بخش قابل توجهی از سال جاری را به منظور آماده شدن برای تصویب مقررات مربوط به هوش مصنوعی مسئول صرف کرده‌اند. وایزمن باور دارد که موضوع اطلاعات نادرست سیاسی تولیدشده توسط هوش مصنوعی، در صدر فهرست اولویت‌های بسیاری از قانون‌گذاران قرار گرفته زیرا این واقعیت آشکار است که می‌توان از دیپ‌فیک‌ها مستقیما علیه آنها در انتخابات مجدد استفاده کرد.

مایکروسافت، ادوبی و سایر شرکت‌های فناوری، حمایت خود را از لایحه دو حزبی به نام «قانون محافظت از انتخابات در برابر هوش مصنوعی فریبنده» ابراز داشته‌اند که توسط «ایمی کلوبوچار»(Amy Klobuchar)، «جاش هاولی»(Josh Hawley)، «کریس کونز»(Chris Coons) و «سوزان کالینز»(Susan Collins) سناتورهای آمریکا ارائه شده است. به گفته منابع، این لایحه که حق نامزد آسیب‌دیده از دیپ‌فیک را برای شکایت و دریافت خسارت‌های قانونی تثبیت می‌کند، در ساختمان کنگره مطرح شده است اما هیچ چیز قطعی نیست.

انتهای پیام

منبع: ایسنا

کلیدواژه: دیپ فیک هوش مصنوعی انتخابات آمریکا دانشگاه تهران هفته ترویج علم روز جهانی علم در خدمت صلح و توسعه آپارتاید علمی برای شناسایی دیپ فیک ها کمپین ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.isna.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «ایسنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۰۷۱۱۵۵ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

اپراتور اختصاصی هوش مصنوعی راه‌اندازی می‌‎شود

 معاون علمی، فناوری و اقتصاد دانش بنیان رئیس جمهور با اعلام اینکه اساسنامه مرکز ملی هوش مصنوعی در شورای عالی انقلاب فرهنگی در حال تدوین است، گفت: این مرکز در اولین گام یک کاربر هوش مصنوعی یا به اصطلاح «اپراتور اختصاصی هوش مصنوعی» را در کشور راه‌اندازی می‌کند.

به گزارش خبرگزاری ایمنا، روح الله دهقانی فیروزآبادی امروز_شنبه هشتم اردیبهشت_ در نشست خبری با خبرنگاران اظهار کرد: توسعه فناوری در کشور وظیفه اصلی معاونت علمی ریاست جمهوری است و در این راستا برنامه ستاد توسعه هوش مصنوعی این معاونت کمک به دانشگاه‌ها، محققان و شرکت‌های دانش بنیان برای توسعه فناوری‌ها و کاربست هوش مصنوعی در ایران با استفاده از ابزار اپراتور است.

وی ادامه داد: پیش بینی می‌شود امسال جریان اکوسیستمی هوش مصنوعی در کشور راه می‌افتد و به صدها جی پی یو (GPU واحدهای پردازش گرافیک) دست پیدا می‌کنیم.

رئیس بنیاد ملی نخبگان به رایزنی با رئیس جمهور و بسیاری دستگاه‌ها از جمله سازمان برنامه و بودجه برای راه اندازی مرکز توسعه هوش مصنوعی در کشور و در کنار آن شورای راهبری هوش مصنوعی اشاره کرد و و یادآور شد: برای این کار مدل‌های مختلف در بسیاری کشورها بررسی شد.

دهقانی فیروزآبادی خاطرنشان کرد: بررسی‌ها نشان داد که بعضاً برخی کشورها وزارتخانه و برخی هم شورای راهبری برای هوش مصنوعی ذیل ریاست جمهوری ایجاد کرده‌اند.

اساسنامه مرکز ملی هوش مصنوعی در حال تدوین

وی افزود: با ساعت‌ها رایزنی و مشورت با متخصصان و صاحب‌نظران هوش مصنوعی و شبکه‌ها به این جمع بندی رسیدیم که در کشور باید یک مرکز تحت عنوان مرکز ملی هوش مصنوعی داشته باشیم تا وظیفه کلانی را در این حوزه از جمله نظارت و تنظیم گری و همچنین توسعه زیرساخت‌های کلان عهده دار شود و شورایی هم به عنوان راهبر و هیأت امنا بالا سر این مجموعه شکل بگیرد.

معاون علمی رئیس جمهور یادآور شد: اسفندماه ۱۴۰۲ مرکز ملی هوش مصنوعی تأسیس شد و حکم ریاست آن نیز توسط رئیس جمهور صادر شد و اعضای شورای راهبری این مرکز نیز معرفی شدند، اساسنامه مرکز ملی هوش مصنوعی د رحال حاضر در شورای عالی انقلاب فرهنگی در حال تنظیم آست.

دهقانی فیروزآبادی تاکید کرد: این مرکز در حوزه هوش مصنوعی فراتر از معاونت علمی ریاست جمهوری است و همه دستگاه‌ها در قبال این مرکز از یک مأموریت اختصاصی برخوردار هستند.

وی از برگزاری جلسات مختلف با طرف‌های تأثیرگذار در حوزه هوش مصنوعی همچون سرمایه گذاران مختلف، بخش‌های دولتی و صندوق‌ها خبر داد و تصریح کرد: در این راستا صندوق پژوهش و فناوری توسعه هوش مصنوعی نیز تصویب و دایر شد.

رئیس بنیاد ملی نخبگان با بیان اینکه این صندوق با سرمایه ۱۰ هزار میلیارد تومانی برای فعالیت برنامه ریزی شده است، افزود: بخش خوبی از این سرمایه را نهادهایی مثل صندوق توسعه ملی و چندین مودی مالیاتی بزرگ در حوزه اپراتورها تقبل کرده‌اند که پرداخت کنند بنابراین اقدامات عملیاتی بسیار خوب پیش رفته است و برنامه ریزی ها این است که مرکز ملی هوش مصنوعی در اولین گام یک کاربر هوش مصنوعی یا اصطلاحاً یک اپراتور هوش مصنوعی در کشور راه اندازی کند.

دهقانی فیروزآبادی ادامه داد: طبق برنامه ریزی انجام شده این اپراتور هوش مصنوعی سه خدمت اصلی را عرضه می‌کند، یعنی یک مزرعه پردازشی بزرگ که چگونگی ابعاد و اندازه آن در حال بحث است. یک مرکز داده یا دیتا سنتر بزرگ برای تولید داده‌ها و همچنین کتابخانه بزرگ زبانی و تصویری که اینها مجموعه‌هایی هستند که قرار است در اپراتور اصلی مدیریت شوند.

معاون علمی، فناوری و اقتصاد دانش بنیان رئیس جمهور در بخش دیگری از این نشست خبری در پاسخ به این سوال که تدوین و اجرای نظام ارزیابی دانش بنیان‌ها چه تغییری در اکوسیستم و زیست بوم حوزه دانش بنیان‌های کشور ایجاد کرده است، گفت: در نظام جدید ارزیابی دانش بنیان‌ها، علاوه بر سطح فناوری، میزان اشتغال تخصصی و گردش مالی شرکت‌ها مورد سنجش قرار می‌گیرد و شرکت‌های فناور بر این اساس به شرکت‌های نوپا، نوآور و فناور تقسیم می‌شوند.

دهقانی فیروزآبادی در مورد اینکه گفته شده این همان سیستم دسته بندی نوع یک، دو و سه سابق است، تاکید کرد: مطلقاً این صحبت اشتباهی است چراکه قبل از این مجموعه‌های فناور تنها براساس فناوری دسته بندی می‌شدند.

وی اظهار داشت: نظام ارزیابی جدید مجموعه‌های فناور در حال حاضر به یک ابزار جدی برنامه ریزی و مدیریت تسهیلات برای ساز و کارهای حمایتی برای معاونت علمی تبدیل شده است و اینکه می‌گوئیم ۷ هزار از مجموعه‌های فناور ما شرکت نوپا و قریب به ۸۰۰ تا هزار فناور هستند و ۲ هزار نوآور هستند، یک دید واقعی به ما می‌گوید که حجم اقتصاد و حجم صادراتی کشور در چه مرحله و شرایطی است برای یک برنامه ریزی جدی از سوی معاونت علمی است.

رئیس بنیاد ملی نخبگان با بیان اینکه در سه ماه آینده بحث ارزیابی مجموعه‌های فناور به شکل اساسی به روز رسانی می‌شود و ارزیابی‌ها توسط پارک‌ها انجام و آسان گیرانه تر و بعضاً غیرحضوری خواهد بود، افزود: هم اکنون ۱۰ پارک علم و فناوری در کشور کارگزار معاونت علمی ریاست جمهوری در شرکت‌های نوپا فعالیت می‌کنند.

دهقانی فیروزآبادی در عین حال تاکید کرد: تمرکز ارزیابی‌های جدی و حضوری بر روی شرکت‌های نوآور و فناوری خواهد بود که بازی اصلی دست آنها است.

وی پیش بینی کرد امسال علاوه بر متوازن شدن نظام حمایت از مجموعه‌های فناور و واقعی شدن ارزیابی‌ها، حداقل یک هزار شرکت جدیدی از شرکت‌هایی که قبلاً در پارک‌ها بوده‌اند به شرکت‌های دانش بنیان نوپا تبدیل می‌شوند.

۱۰۸ شرکت دانش‌بنیان در بورس حضور دارند؛ امیدواریم تا آخر سال حداقل رشد ۱۰۰ درصدی را تجربه کند

دهقانی فیروزآبادی در ادامه نشست خبری از حضور ۱۰۸ شرکت دانش‌بنیان در بورس خبر داد و گفت: امیدواریم تا آخر سال حداقل رشد ۱۰۰ درصدی را تجربه کنند

وی افزود: یکی از مراحل بلوغ بعضی از شرکت‌های دانش‌بنیان عرضه شدن آنها در بازار سرمایه و مشارکت آنها توسط سرمایه مردم است.، لزومی ندارد یک شرکت دانش بنیان برای ورود به بورس به معاونت علمی ریاست جمهوری مراجعه کند.

معاون علمی، فناوری و اقتصاد دانش بنیان رئیس جمهور ادامه داد: وقتی بحث کلان داده‌ها مطرح می‌شود یا بحث داده‌های مرتبط با مردم یا امنیت مردم مرتبط می‌شود، صلاحیت شرکت‌ها برای ورود به بورس در یک کارگروهی که در معاونت علمی ریاست جمهوری تشکیل شده، مورد بررسی و ارزیابی قرار می‌گیرد.

کد خبر 748400