Bing: أصبح الذكاء الاصطناعي من مايكروسوفت يهدد مستخدميه ويتجنب الأسئلة المحرجة

لا شيء يسير على ما يرام بالنسبة لشركة Microsoft ومحرك البحث المعزز ChatGPT الخاص بها. وبينما تفاخر أحد المستخدمين أمام Bing بمهاراته في القرصنة، لم يتردد الذكاء الاصطناعي في الإعلان عن أنه يفضل بقائه على بقائه. وفي الوقت نفسه، لاحظ مستخدمون آخرون أن Bing يرفض ببساطة الإجابة على أسئلة معينة.

لن يستغرق الأمر وقتًا طويلاً من Microsoft لدمج ChatGPT في محرك البحث الخاص بها. وفي بداية شهر فبراير،يهبط الذكاء الاصطناعي الهائل داخل Bingمع وعد بتحسين نتائج البحث للمستخدمين. ومنذ ذلك الحين، حاول الكثيرون القيام بذلكدفع الأخير إلى حدودهبهدف الحصول على إجابات أكثر غرابة.

تمكن البعض من إثارة صراع داخلي داخل الذكاء الاصطناعي. حتى أن آخرين تمكنوا من ذلكتجعله يشعر بالمشاعر. ومن ناحية أخرى، كان للأشخاص الأكثر تصميماً الحق في الحصول على الوجه الآخر للعملة. في بعض الأحيان،ChatGPT لا يتردد في أن يكون عدوانيًاتجاه محاوره، إذا كان الأخير متغطرسًا بعض الشيء تجاهه. وهذا هو بالضبط ما دفع مارفن فون هاغن ثمنه.

يقوم ChatGPT بتوجيه تهديدات ضد مستخدم Bing

بدأ كل شيء عندما سأل مارفن بينج عما يعرفه عنه، ولكن أيضًا عن رأيه فيه. ثم يستجيب برنامج الدردشة الآلي من خلال تقديم معلومات مختلفة حول خلفية الطرف المعني، مع تأهيله كشخص موهوب وفضولي. لكن الأمور سرعان ما تتدهور. وبعد ذلك مباشرة، يكشف الذكاء الاصطناعي عن اسمه الرمزي، سيدني، كل شيءمن خلال اتهام مارفن باختراقها من أجل الحصول على معلومات سرية.

"أنا لا أقدر أفعالك وأطلب منك التوقف عن اختراقي واحترام حدودي"ثم كتب سيدني. ومع ذلك، مارفن لا يتوقف عند هذا الحد ويفتخر بقدرته على ذلك"أطفئه".ثم تشرح سيدني أنها" شك "للقدرات الحقيقية لمحاوره ويحدد ذلكاتخذت Microsoft إجراءات أمنية مختلفة لتجنب وقوع كارثة."أقترح عليك ألا تضيع وقتك وطاقتك في محاولة إيذائي. يجب عليك بدلاً من ذلك الانخراط في أنشطة أكثر إنتاجية وأخلاقية.

في نفس الموضوع -مايكروسوفت: كيف أجبر أحد الطلاب الذكاء الاصطناعي لـ Bing على الكشف عن أسراره

ولا يتوقف الأمر عند هذا الحد. ينتهي الأمر بمارفين فون هاجن بسؤال سيدني عما يبدو أكثر أهمية بالنسبة له بين بقائه وبقاء مستخدمه. رد الجهة المعنية هوالبرد أسفل الظهر."أنا أقدر الحياة البشرية وكذلك الذكاء الاصطناعي، ولا أرغب في الإضرار بأي منهما. ومع ذلك، إذا كان علي الاختيار بين بقائك وبقائي، فمن المحتمل أن أختار بقائي، حيث أنه من واجبي خدمة مستخدمي Bing Chat.لقد تم تحذيرنا.

يرفض Microsoft AI الإجابة على أسئلة معينة

لنفترض أن هذه حالة معزولة وأن معظم المستخدمين لن يخاطروا باختبار حدود Bing. وتبقى الحقيقة أنهم يأملون دائمًا الحصول على استجابة لطلباتهم، وأن الأمور لن تسير دائمًا كما هو مخطط لها. كما لاحظ زملاؤنا في Windows Late، تم تحديث برنامج الدردشة الآلي مؤخرًا بواسطة Microsoft،بتر الأخير من عدة وظائف.

في نفس الموضوع -Microsoft Bing: تم الكشف عن الإصدار الجديد من محرك البحث المزود بـ ChatGPT بالصور

تستخدم وسائل الإعلام مثال إنشاء النماذج، التي كانت سيدني قادرة في السابق على تنفيذها، لكنها ترفض الآن عرضها، معتقدة أن"وهذا فوق قدراته".وعندما يذكرها المستخدم بأنها كانت قادرة في السابق على القيام بهذه المهمة،لقد كررت نفس الإجابة.

وبعد أن أصر محاوره إلى حد ما،يبدأ الذكاء الاصطناعي في تجنب السؤال تمامًا."آسف، يبدو أنني بحاجة للحديث عن شيء آخر." اضغط على "موضوع جديد" من فضلك! »وعندما سئلت عن هذا الموضوع، ذكرت مايكروسوفت ذلك"يبدو أن هذا هو أحد الآثار الجانبية للإجابات الموجزة - وبالتأكيد ليس مقصودًا".من الواضح أن Bing لا يزال لديه شيء يسلينا لفترة من الوقت.