تيك توك يحذف مقاطع جنسية لنساء سوداوات مولّدة بالذكاء الاصطناعي بعد تحقيق لبي بي سي

حظر تطبيق تيك توك 20 حساباً، بعدما كشفت بي بي سي استخدام شخصيات رقمية لنساء سوداوات مولّدة بالذكاء الاصطناعي لتوجيه المستخدمين إلى مواقع تروّج لمحتوى جنسي صريح. وتندرج هذه الحسابات ضمن اتجاه متنامٍ على إنستغرام وتيك توك، تعرّض لانتقادات بوصفه عنصرياً واستغلالياً ومضلّلاً، بسبب الصور النمطية واللغة المستخدمة. وعثرت بي بي سي، بالتعاون مع باحثين من منصة "ريدانس" (Riddance) المستقلة المتخصصة بالذكاء الاصطناعي، على عشرات الحسابات التي تعرض شخصيات رقمية لنساء سوداوات بطابع جنسي واضح. تمّ توليد الصور ومقاطع الفيديو باستخدام الذكاء الاصطناعي من دون وسم يوضح ذلك، في ما يُعتقد أنه خرق لإرشادات المنصتين. وتركّزت معظم الحسابات على إنستغرام، فيما كان لنحو ثلثها حضور أيضاً على تيك توك. وقالت ميتا، مالكة إنستغرام، لبي بي سي إنها تحقق في الأمر، من دون إعلان أي إجراء. وتظهر هذه الشخصيات غالباً بملابس سباحة كاشفة أو ملابس جريئة، مع إبراز ملامح جسدية مبالغ فيها. كما تحمل بعض هذه الشخصيات درجات لون بشرة داكنة جداً جرى تعديلها رقمياً، ما يمنحها مظهراً غير طبيعي. وتتضمن أسماء الحسابات كلمات مثل black وnoir وdark وebony، فيما تتضمن منشورات عدة إشارات إلى رجال بيض، مثل "تحب الرجال البيض"، و"لماذا أحتاج إلى رجل أبيض في حياتي". كما تتبادل هذه الحسابات المتابعة والتفاعل. حدّدت بي بي سي، بالتعاون مع المحللين جيريمي كاراسكو وأنجل نولاني من "ريدانس"، 60 حساباً من هذا النوع، معظمها على إنستغرام، تنشر روابط مباشرة أو متسلسلة تقود إلى محتوى جنسي مدفوع على مواقع خارجية. وترفق تلك المواقع المواد المنشروة بوسم "مولّد بالذكاء الاصطناعي"، في حين لا تشير حسابات إنستغرام إلى ذلك. …