تُظهر دراسة أجراها قسم أخلاقيات الذكاء الاصطناعي في سوني كيف أن الذكاء الاصطناعي لا يأخذ في الاعتبار لون البشرة عندما يتعلق الأمر بالتعرف على الوجه أو حتى إنشاء وجوه وهمية.
التعرف على الوجه يستخدم بشكل متزايد"الذكاء الاصطناعي.". صبمراقبة المحتالين في المتروأوضع حدًا لقوائم الانتظار قبل ركوب يوروستارعلى سبيل المثال. ولتحقيق هذا،يجب تدريب الخوارزمياتبالطبع. يقومون بتحليل ملايين الوجوه ويتعلمون كيفية تحديد هويتهم بشكل مثالي. النظام لا تشوبه شائبة، ويمكن حتىتؤدي إلى أخطاء قضائية جسيمة إلى حد ما.
وفي عام 2018، كشفت دراسة ذلككان التعرف أقل فعالية بالنسبة للأشخاص ذوي البشرة الداكنة. وقد أدى هذا إلى تغيير في العديد من الشركات مثلجوجلأوميتا، الذي تبنى إطارًا مرجعيًا أكثر شمولاً، وهو إطار إليس مونك.سونيومع ذلك، يعتقد أن التحيز لا يزال قائما. دراسة تقسيمهاأخلاقيات الذكاء الاصطناعييظهر ذلكيتم تجاهل درجات البشرة الصفراء تقريبًا بواسطة الذكاء الاصطناعي، لصالح ظلال تتجه نحوروج.
تعتقد شركة سوني أن الذكاء الاصطناعي يفضل بعض ألوان البشرة على غيرها
ويقترح الباحثون علاج ذلك عن طريقأتمتة تحليل لون البشرةوذلك بوضعه على ميزانين متميزين: منالضوء إلى الظلامومنفي الغالب أصفر إلى أحمر في الغالب. يقوم البرنامج بعزل بكسلات الصورة التي تظهر الجلد، وتحويل قيمة RGB الخاصة بها (الأحمر والأخضر والأزرق) إلى رموز يستخدمها المستودعسيلابتعتبر الأكثر صلة، ثم يتم حساب متوسط القيمة. بالنسبة إلى إليس مونك، مبتكر المقياس الذي تستخدمه جوجل، من بين آخرين، فإن هذا يعني تجاهل أالتحليل البشريووفقا له مهم في القضاء على التحيز.
وبعيداً عن اختيار حل نهائي، فقد أعلنت بعض الشركات بالفعل أنها ستدرس النتائج التي توصلت إليها دراسة شركة سوني. وتتجاوز آثارها التعرف على الوجه لأغراض المراقبة لأنها تشمل أيضًاإنشاء الصور بالذكاء الاصطناعي، ل'تحديد الابتسامةوحتىأدوات اقتصاص الصور. أليس شيانغ، رئيس قسم أخلاقيات الذكاء الاصطناعي في شركة سوني، ليس لديه أدنى شك في ذلكتحسين أنظمة التدريب الخوارزميةهي بالضرورة مهمة لا تنتهي أبدا. وتختتم قائلة: "علينا أن نستمر في محاولة إحراز تقدم".
مصدر :سلكي