گروه حقوق بشر اعلام کرد عکس کودکان استرالیایی در دیتاست Laion-5B که هوش مصنوعی را تعلیم می‌دهد، استفاده شد. گروه دیدهبان حقوق بشر ارتباطی بین صد و نود عکس از کودکان یافت که خانواده آن‌ها اطلاعاتی از استفاده غیر قانونی برای تعلیم مدل هوش مصنوعی نداشتند.
این خبر چند روز پس از عرضه مدل جدید سرویس Stability منتشر شد. به نظر می‌رسد دیتاستی که از عکس کودکان استفاده می‌کند Laion-5B نام دارد. این دیتاست در مدل‌هایی مانند میدجورنی و استیبل دیفوژن وجود دارد.
به نظر می‌رسد این شرکت آلمانی تصاویر را با URLهای آن‌ها ذخیره می‌کند. سپس این تصاویر را مخدوش می‌کند و در دیتاست مربوطه قرار می‌دهد. گروه دیدهبان حقوق بشر می‌گوید نام برخی از این کودکان راحت پیدا می‌شود. برخی از تصاویر دارای URL هستند. آن‌ها می‌گویند می‌توانند بفهمند این تصویر را از کجا دانلود کردند.
آن‌ها اعلام کردند برخی از تصاویر حاوی اطلاعات درباره زمان و مکان عکس و دوربین مورد نیز بود. تیم دیدهبان حقوق بشر افزود یکی از این عکس‌ها تثویر دو پسربچه را نشان می‌دهد. آن‌ها مقابل یک دیوار ایستادند و نام، سن و عنوان پیش دبستانی آن‌ها روی دیوار درج شده است.
آن‌ها اعلام کردند این تصاویر در وبسایت مدارس یا مهدکودک‌ها یافت نمی‌شود. ممکن است برخی از این تصاویر از اجرای رقص یا جلسه شنا گرفته شده باشند. چیزی که مشخص است این است که تصاویر فقط برای شخص والدین است و دیگران نباید از آن استفاده کنند.
سایت Laion هنوز پاسخی به این موضوع نداده است. آن‌ها پیش از این نیز به استفاده غیر قانونی متهم شدند اما این بار موضوع جنبه‌های دیگری دارد و پای کودکان در میان است.