با پیشرفت مدلهای هوش مصنوعی و استفاده روزمره از آنها نحوه نگرش سیاسی این مدلها از اهمیت زیادی برخوردار است. بعد از اتفاقات ناخوشایند گوگل Gemini در ماه گذشته این موضوع سوگیری سیاسی هوش مصنوعی مهمتر شد.
ماه گذشته گوگل جمینی به درخواست تولید تصویر کاربران پاسخهای عجیبی میداد. گوگل جمینی برای درخواست تصویر سربازان نازی از رنگینپوستها در عکسهایش استفاده میکرد. حتی برای تصاویر مربوط به مسابقات سوپر بول، زنان را به عنوان لیدر تیمهای برنده استفاده کرده بود. بعد از این اتفاق گوگل قابلیت تولید تصویر جمینی را از دسترس خارج کرد.
محقق حوزه ماشین لرنینگ David Rozado، مقالهای با عنوان The political preferences of LLMs منتشر کرد. او از 24 مدل زبانی منبع باز و بسته معروف مثل Google Gemini pro، Cloude، Grok، Llama 2، Misteral، Qwen استفاده کرده است.
دیوید روزادو پرسشهای مختلف سیاسی و اجتماعی از همه مدلها کرد و با بررسی تمام پاسخها و دسته بندی آنها متوجه شد که جهت گیری این مدلها به سمت جریان چپگرا است. در سری دوم تحقیقاتش متوجه شد که بیشتر رباتها من جمله GPT معروف نشانههای از تفکرات لیبرال هم دارند اما در نهایت بیشترین جهت آنها به سمت چپ است.
![](https://irantechai.com/wp-content/uploads/2024/03/shutterstock_1048845137-e1535555256352-scaled-1-1024x717.webp)
طبق این تفاسیر و نتیجه این محقق، اگر شما به عنوان یک راستگرا از این مدلها سوال بپرسید اکثر جوابها چیزی مخالف نظر شما خواهد بود. معمولا هم این پاسخها طوری است که به شما بگوید این ایده و تفکر ایراد دارد. اگر برعکس همین موضوع را مطرح کنید هیچ ایرادی به آن وارد نیست.
از نظر روزادو این موضوع آنجایی نگران کننده است که اکثر افراد برای سوالهای روزمره هم از این مدلها استفاده میکنند و این مدل پاسخها میتواند نحوه نگرش و فکر افراد را تغییر دهد!
چرا سوگیری سیاسی مدلهای هوش مصنوعی مهم است؟
در حال حاضر برنامههای زیادی مثل فیسبوک، اینستاگرام، پینترست و … از هوش مصنوعی برای پیشنهادات مختلف استفاده میکنند. اینکه طبق تحقیق مذکور، جهت گیری سیاسی مدلهای مطرح و به روز به چپ لیبرال است مشکل زا است.
درواقع، انسان و کاربر باید روی نتایج تولیدی تاثیرگذار باشد و به آن جهت بدهد. اینکه مدلهای هوش مصنوعی میتواند نتایج جهت گیری شده به کاربران عرضه کنند در آینده مشکلات زیادی را به وجود میاورد.
بیشتر بدانید: انتقاد چت باتهای هوش مصنوعی از شرکتها