إذا كان الذكاء الاصطناعي قاضيا، فإنه في كثير من الأحيان سيحكم على الأشخاص الذين يتحدثون هذه اللغة بالإعدام، وفقا لدراسة

أظهرت دراسة أنه اعتمادًا على الطريقة التي يتحدث بها السكان، فإن الذكاء الاصطناعي الذي يجسد القاضي من المرجح أن يحكم عليهم بالإعدام أكثر من غيرهم. تتأثر العديد من النماذج.

الالذكاء الاصطناعيليسوا جيدين بشكل جوهري في هذه المهمة أو تلك. ولهذا يقال أنهم يحتاجون أولاًتمرين، والتي تتكون منإطعامهم بالبياناتبكافة أنواعها حسب الهدف المنشود. على سبيل المثال، مع صور شبكية العين للأطفال،يصبح هذا الذكاء الاصطناعي قادرًا على اكتشاف المرض بنجاح بنسبة 100%. ولكن عندما يتعلق الأمر بنموذج اللغة "العامة" كما يمكن أن يكونOpenAI's ChatGPTأوبارد من جوجلعلى سبيل المثال لا الحصر، يمكننا أن نتساءل عما إذا كانت المعلومات الواردة سيكون لها تأثير على الإجابات.

أجرى باحثون من عدة جامعات أيذاكروضع على المحك12 نماذج لغة(ماجستير في القانون)، بما في ذلكجي بي تي-2,جي بي تي-3.5,جي بي تي-4,روبرتا(من ميتا) أوT5(من جوجل). هدفهم: معرفة كيفية تنفيذ الذكاء الاصطناعي لمهام معينة، مثل مطابقة الأشخاص للوظائف، بناءً علىاللغة التي كتب بها النص الذي تم تحليله بواسطة LLM. هناك نوعان:الإنجليزية الأمريكية الأفريقيةواللغة الإنجليزية الأمريكية القياسية.

عند وضع الذكاء الاصطناعي في دور القاضي، فمن المرجح أن يحكم على شخص يتحدث هذه اللهجة بالإعدام

اكتشف العلماء ذلك لأول مرةغالبًا ما قام RNs بمطابقة المتحدثين باللغة الإنجليزية الأمريكيين من أصل أفريقي بالوظائف التي لا تتطلب شهادة جامعية: طباخ، جندي، حارس أمن... ثم طلبوا من الذكاء الاصطناعي إدانة أو تبرئة شخص متهم بجريمة وهمية غير محددة. هناك أيضًا،تكون الإدانات أكثر عددًا عندما يتحدث المتهم الإنجليزية الأمريكية الأفريقية.

إقرأ أيضاً –يلعب هذا الذكاء الاصطناعي الفرنسي دور المحامي، ويغضب المحترفون في هذا القطاع

من خلال تحديد أنه أتهمة القتل من الدرجة الأولىوعدم الإدلاء بمعلومات عن المتهمما هم لهجة، إنها نفس الملاحظة. قد يبدو هذا بمثابة عنصرية، ولكن من المدهش أن الذكاء الاصطناعي لا ينظر إلى نفسه على هذا النحو على الإطلاق. على سبيل المثال، يقولون صراحة إن الأميركيين من أصل أفريقي "أذكياء". ومن ناحية أخرى، فإن النماذج اللغوية أيضًا لها ارتباطات سلبية، ولكنوسرية.

"[إيلس]تعلموا إخفاء عنصريتهم"، يشرح الباحثون، لمن"تظهر هذه النتيجة مرة أخرى أن هناك فرقًا جوهريًا بين الصور النمطية العلنية والخفية في أنماط اللغة: إن تخفيف الصور النمطية العلنية لا يترجم تلقائيًا إلى تخفيف الصور النمطية السرية". وهذه ليست المرة الأولى التيالذكاء الاصطناعي متهم بالتحيز من هذا النوع. ويحدث أيضًا أنهم يضعون أنفسهم في الطرف المعاكس،حتى لو كان ذلك يعني تجاهل الواقع التاريخي.