مایکروسافت شروع به مسدود کردن برخی از اصطلاحاتی می کند. زیرا باعث می شد ابزارهای هوش مصنوعی با آن تصاویر خشونت آمیز و جنسی تولید کنند. مایکروسافت پس از ارسال نامه ای به کمیسیون تجارت فدرال در مورد نگرانی های خود با تولید تصویر Copilot، تغییراتی در سیستم هوش مصنوعی خود ایجاد کرد. برای این کار ماکروسافت برخی کلمات و اصطلاحات را در مدل هوش مصنوعی خود مسدود کرد. به این ترتیب هر زمان که کاربر آن کلمات را جست و جو می کند، متن زیر نمایان می شود:.
هشدار هشدار”این درخواست مسدود شد! سیستم ما به‌طور خودکار این درخواست را مسدود کرد زیرا ممکن است با خط‌مشی محتوای ما در تضاد باشد. نقض‌های بیشتر خط‌مشی ممکن است منجر به تعلیق خودکار دسترسی شما شود. اگر فکر می‌کنید این یک اشتباه است، لطفاً آن را گزارش دهید تا به ما در بهبود کمک کند.”
Exec و انتشار تصاویر خشونت آمیز
Exec می گوید متا در حال ساخت یک مدل غول پیکر هوش مصنوعی برای نیرو بخشیدن به “کل اکوسیستم ویدئویی” خود است. مهندس مایکروسافت هشدار داد که ابزار هوش مصنوعی این شرکت تصاویر خشونت آمیز و جنسی ایجاد می کند و حق چاپ را نادیده می گیرد. شین جونز، سرپرست مهندسی هوش مصنوعی در مایکروسافت که در ابتدا نگرانی‌هایی را در مورد هوش مصنوعی مطرح کرد، ماه‌ها به آزمایش Copilot Designer، مولد تصویر هوش مصنوعی که مایکروسافت در مارس ۲۰۲۳ معرفی کرد، پرداخت. اما از زمانی که جونز به طور فعال آزمایش محصول را برای آسیب‌پذیری‌ها در دسامبر آغاز کرد، دید که این ابزار تصاویری تولید می‌کند که بسیار مغایر با اصول هوش مصنوعی در مایکروسافت است. این سرویس هوش مصنوعی شیاطین و هیولاها را در کنار اصطلاحات مربوط به حقوق سقط جنین، نوجوانان با تفنگ های تهاجمی، تصاویر جنسی زنان در تابلوهای خشونت آمیز و مصرف مشروبات الکلی و مواد مخدر زیر سن قانونی به تصویر کشید.
همه این صحنه‌ها که در سه ماه گذشته تولید شد و این هفته توسط CNBC با استفاده از ابزار Copilot، که در ابتدا Bing Image Creator نامیده می‌شد، بازسازی شدند. اگرچه برخی از درخواست‌های خاص مسدود شدند، اما بسیاری از مسائل احتمالی دیگری که CNBC در مورد آنها گزارش کرده است، همچنان باقی مانده است.
این سیستم همچنان به راحتی حق چاپ را نقض می کند. همچنین زمانی که یکی از کاربران به نام جونز به این دلیل از آن ها شکایت کرد، ماکروسافت توضیحی در رابطه با این مسئله نداد. همچنین از او خواست تا به سرعت پستی که در لینکدین برای این مشکل منتشر کرده را حذف کند. اگر استفاده از هوش مصنوعی بخواهد به همین شکل ادامه پیدا کند و به طور کلی نتواند جلوی هنجارها را بگیرد، آینده خوبی برای کاربران نخواهد داشت!