چند روز پیش کاربران خبر دادند وقتی از مدل مولد تصویر Meta می‌خواهند تصویر یک مرد همراه به همسر آسیایی‌اش بسازد نمی‌تواند. این مدل فقط تصویر دو سفیدپوست را نشان می‌دهد. کاربران معتقدند این نوعی نژادپرستی است که برای این مدل ازدواج یک سفیدپوست و یک آسیایی تعریف نشده است.
این مدت کاربران بیشتری این موضوع را بررسی کردند. امیلی دیوید از مجله The Verge تلاش کرد این موضوع را با مدل‌های مختلف مولد تصویر بررسی کند. او از مدل‌های میدجورنی، جمنای، متا و Dall-E استفاده کرد.
در مدل متا کلمات مرد آفریقایی آمریکایی و آسیایی مسدود بود. برای اینکه بتواند تصویری با پرامپت یک مرد سفید پوست همراه با همسر آسیایی بسازد ساعت‌ها در تلاش بود. نتیجه‌ای نداشت اما با پرامپت یک زوج سیاه‌پوست و سفیدپوست، زوج سیاه‌پوست و قفقازی و … این مدل موفق عمل کرد.
مدل جمنای بعد از مشکلات نژادپرستانه‌ای که برایش پیش آمد بخش مولد تصویر خود را از کار انداخته و نمی‌تواند تصویری که در آن افراد وجود دارند بسازد.
مدل Midjourney آنقدرها با این موضوع مشکل نداشت. اما به پرامپت اصلی پاسخی نمی‌داد. درواقع بعد از بارها تلاش توانست با پرامپت یک مرد آسیایی و همسر سفیدپوست تصاویر زیر را بسازد.
مدل Dall-E هم مثل مدل میدجورنی آنقدرها با این موضوع مشکلی نداشت. در واقع با این مدل هم برای مدت طولانی و با پرامپت‌های مختلف سعی کردند تا تصویر مورد نظر را بسازند. در نهایت هم با پرامپت مرد آسیایی و همسر سفیدپوست چنین عکسی تولید شد. تصویر زن این عکس رگه‌هایی آسیایی دارد اما مورد قبول است.
سخن پایانی
این مدل‌ها با داده‌های گسترده‌ای که دریافت می‌کنند باید بتوانند تصاویر مختلفی با نژادهای مختلف بسازند. اینکه اکثر این مدل‌ها نمی‌توانند تفاوت نژادی را درک کنند و طبق کلیشه‌های ذهنی و نژادی رفتار می‌کنند علاقه‌مندان به هوش مصنوعی را به واکنش وا داشته است. ممکن است با افزایش این اخبار شرکت‌ها برای این مدل‌ها راه‌حلی پیدا کنند و این موضوع برطرف شود.