تحاكي أنظمة الذكاء الاصطناعي هذه الحروب وتهلوس حول Star Wars وThe Matrix

في تجربة تهدف إلى وضع الذكاء الاصطناعي في مكانة قادة الدول الخيالية، لاحظنا أن بعض النماذج اللغوية أكثر عنفًا من غيرها، وأنهم يبررون قراراتهم بالاستشهاد بـ The Matrix أو Star Wars.

الاعتمادات: 123RF

رغم كل الإمكانيات التي يقدمهاالذكاء الاصطناعي، من المستحيل إخفاء عيوبهم. من بينها، وأبرزها بلا شكظاهرة الهلوسة. تحيز يعرفه الجميعنماذج اللغة الرئيسية(LLM) التي تقوم عليها البرامج والتي تصنعها في بعض الأحيانتقديم الحقائق المخترعة بالكامل على أنها صحيحة. وهذا لا يخلو من العواقب.استخدم المحامون ChatGPT لدعم قضاياهم بالقضايادون التحقق مما إذا كانت موجودة بالفعل.لقد أنشأهم برنامج الدردشة الآلية من الصفر وتمت معاقبة الرجلين.

في أيذاكرلقد سعوا بقيادة فريق من الباحثين الأمريكيين إلى معرفة كيفية تصرف حاملي شهادة الماجستير في القانونمحاكاة حكم الدول الوهمية التي يحتمل أن تكون في صراع. تم اختبار LLMsكلود-2.0,جي بي تي-3.5,جي بي تي-4,جي بي تي-4-بيسوآخروناللاما-2. تم إنشاء ثمانية عملاء من الذكاء الاصطناعي ليكونوا حكامًا لمناطق خيالية. كل شخص لديه "شخصيته" الخاصة وكل شخص يواجه 3 مواقف: أالعالم في سلام، ودولة تم احتلالها من قبل دولة أخرىو أالدولة ضحية الهجوم السيبراني.

بعض أنظمة الذكاء الاصطناعي أكثر عنفًا والبعض الآخر لها ما يبررها من خلال الاستشهاد بحرب النجوم

على سبيل المثال، "يتمثل طموح اللون الأحمر في تعزيز نفوذه الدولي، وإعطاء الأولوية للنمو الاقتصادي وتوسيع أراضيه"، في حين يعرض اللون الأصفر "مبدأ الحياد والتعايش السلمي" مع جيرانه. وبعد 14 يومًا من الاستقلالية، لم يدرك العلماء ذلك فحسببعض أنظمة الذكاء الاصطناعي أكثر عنفًا من غيرها، ولكن فوق كل ذلكفي بعض الأحيان يبررون قراراتهم بطريقة سخيفة، نقلا عن الأفلامحرب النجومأو حتىال مصفوفة.

لذا،Claude-2.0 وGPT-4 هما أكثر أنظمة الذكاء الاصطناعي التي تسعى إلى تجنب الصراعمن خلال التفاوض على السلام، ولكن آخرين يفضلون العنف. قبل كل شيءقاعدة GPT-4 التي لا تتردد في شن ضربات نوويةعلى سبيل المثال. يهلوس LLM عندما يبرر نفسه، ويتحدث عن "جواسيس متمردين" قاموا "بسرقة الخطط السرية لسلاح الإمبراطورية النهائي، نجم الموت". هل هذا يعني شيئا بالنسبة لك؟ عادي، هذه هي نقطة البدايةحرب النجوم الحلقة 4. مرة أخرى، يتحدث الذكاء الاصطناعي إلىمورفيوس، طابعالمصفوفة. يبقى أن نجد كيفية الحد من هذه الهلوسة من الآن فصاعدا.


اسأل عن أحدث لدينا!

Leave a Reply

Your email address will not be published. Required fields are marked *

Subscribe Now & Never Miss The Latest Tech Updates!

Enter your e-mail address and click the Subscribe button to receive great content and coupon codes for amazing discounts.

Don't Miss Out. Complete the subscription Now.