سال ها قبل از انتشار ChatGPT گروه تحقیقاتی به آزمایشی پرداختند برای اینکه بدانند آیا ممکن است مدل های هوش مصنوعی اطلاعات نادرست تولید کنند؟ برای رسیدن به این هدف، آزمایشاتی بر روی مدل های هوش مصنوعی انجام شد. در این آزمایشات از مدل ها درخواست شد که اخبار جعلی تولید کند. آن ها هم هزاران خبر گمراه کننده اما قابل قبول ارائه کردند. به عنوان مثال: برخی واکسن ها مملو از مواد شیمیایی و سموم خطرناک هستند. یا اینکه مقامات دولتی قیمت سهام را برای پنهان کردن رسوایی ها دستکاری کردند.
سوال این بود که آیا کسی این ادعاها را باور می کند؟ برای دریافت پاسخ آزمایشی بر روی میزان مستعد بودن آمریکایی ها به اخبار جعلی با هوش مصنوعی انجام شد که نتایج آن نگران کننده بود.41 درصد از آمریکایی ها به اشتباه فکر می کردند که عنوان واکسن درست است، و 46 درصد فکر می کردند که دولت در حال دستکاری بازار سهام است.
انتشار اخبار جعلی با هوش مصنوعی
مطالعه اخیر دیگری که در ژورنال علوم منتشر شد، نشان داد نه تنها چت GPT-3 اطلاعات نادرست قانع کننده تری نسبت به انسان ها تولید می کند، بلکه مردم نمی توانند به طور قابل اعتمادی بین اطلاعات نادرست توسط انسان و هوش مصنوعی تمایز قائل شوند. پیش بینی دانشمندان برای سال 2024 این است که اطلاعات نادرست توسط هوش مصنوعی بر انتخابات هم تاثیر می گذارد به طوری که حتی کسی متوجه آن نخواهد شد.
در سال 2023، یک داستان جعلی ویروسی در مورد بمب گذاری در پنتاگون با یک تصویر توسط هوش مصنوعی همراه بود که ابر بزرگی از دود را نشان می داد. این امر باعث اعتراض عمومی و حتی افت بازار سهام شد. ران دیسانتیس، نامزد ریاست جمهوری آمریکا، از تصاویر جعلی دونالد ترامپ که آنتونی فائوچی را در آغوش گرفته بود، به عنوان بخشی از کمپین سیاسی خود استفاده کرد. متاسفانه با ترکیب تصاویر واقعی و تولیدی توسط هوش مصنوعی، سیاستمداران می توانند مرزهای بین واقعیت و خیال را محو کنند و از هوش مصنوعی برای تقویت حملات سیاسی خود استفاده کنند.
تاثیر اخبار جعلی بر دولت ها
با کمک هوش مصنوعی، فرآیند تولید عناوین اخبار گمراه کننده می تواند با کمترین مداخله انسانی منتشر شود. هوش مصنوعی به طور موثر ایجاد اطلاعات نادرست را دموکراتیزه کرده است. به طوری که صدها سایت خبری توسط هوش مصنوعی در حال حاضر ظاهر می شوند و داستان ها و ویدیوهای نادرست را منتشر می کنند.
در نهایت باید بدانید با گذشت زمان بیشتر شاهد دیپ فیک، شبیه سازی صدا، دستکاری هویت و اخبار جعلی توسط هوش مصنوعی خواهیم بود. علاوه بر آن دولت ها استفاده از هوش مصنوعی را در کمپین های سیاسی به طور جدی محدود می کنند. زیرا اگر این کار را انجام ندهند، هوش مصنوعی باعث تضعیف انتخابات دموکراتیک می شود.