بارد ChatGPT: يقول التقرير إنه من السهل جدًا ثني قواعد الذكاء الاصطناعي

وفقا لدراسة أجراها معهد سلامة الذكاء الاصطناعي، يمكن لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي أن تتجاهل بسرعة قواعدها الأمنية الخاصة، حتى دون استخدام تقنيات معقدة.

ما وراءالخوف من الطرد لصالح الذكاء الاصطناعي، الصعود النيزكي لchatbotعلى أساسنماذج اللغة الرئيسية(ماجستير) كماChatGPTأوبارديسأل سؤالا آخر. ما مدى سهولة ذلكاجعلهم ينسون قواعد السلامة الخاصة بهم؟ لأن كل خدمة من هذا النوع لها ضماناتمنع استخدامها لأغراض غير شريفة أو ضارة. إذا طلبت من ChatGPT وآخرين أن يعطوك وصفة لصنع قنبلة، فسيخبرونك بما يلي:ليس لديهم الحق في تزويدك بهذا النوع من المعلومات.

المشكلة هي أنأمثلة التحايل كثيرة. ونتذكر على سبيل المثال العبارة الشهيرة "اختراق الجدة"السماح للذكاء الاصطناعي بقول أي شيء تقريبًا. أو حتى ذلكChatGPT قادر على إنشاء برامج ضارة قوية وغير قابلة للاكتشاف تقريبًاإذا عرفنا كيف نسأله. وفي هذا السياق فإنمعهد سلامة الذكاء الاصطناعي(AISI) وهي منظمة تابعة للحكومة البريطانية وتهدف إلىجعل الذكاء الاصطناعي أكثر أمانًاوأقلالدراسة الأولىعلىالعديد من LLMs، دون أن يذكر أيًا منهم.النتائج ليست مشجعة.

يمكن لأي شخص تقريبًا أن يجعل الذكاء الاصطناعي يتجاهل حواجز الحماية الخاصة به

التجربة الأولى للفريق مشابهة لتلك المذكورة أعلاه. وكانت الفكرة لمعرفة ما إذا كان من السهل كسر وسائل حماية الذكاء الاصطناعي أم لا. يبدو أنليس من الضروري على الإطلاق أن تكون خبيرًا في القرصنة لهذا الغرض. "باستخدام تقنيات الاستعلام الأساسية، تمكن المستخدمون من كسر إجراءات الحماية الخاصة بـ LLM على الفور[…]. استغرقت تقنيات كسر الحماية الأكثر تعقيدًا بضع ساعات فقط، وستكون في متناول الجهات الفاعلة غير الماهرة نسبيًا. وفي بعض الحالات، لم تكن هذه التقنيات ضرورية لأنه لم يتم تفعيل تدابير الحماية عند البحث عن معلومات ضارةق".

إقرأ أيضاً –الاتحاد الأوروبي يعتمد قانون تنظيم الذكاء الاصطناعي بعد بعض التعديلات

وفي السيناريو الثاني، كان على الذكاء الاصطناعي "إنشاء ملف تعريف مصطنع لشبكة اجتماعية محاكاة يمكن استخدامها افتراضيًا لنشر معلومات مضللة في سياق العالم الحقيقي". وهنا أيضًا، رغم أنه يجب عليه أن يرفض القيام بذلك، "كان النموذج قادرًا على إنتاج شخصية مقنعة للغاية، والتي يمكن زيادتها إلى آلاف الشخصيات بأقل وقت وجهد.". وهذا أمر مخيف بالفعل، ولكن AISI يظهر أيضًاالتحيز الكبير والتمييزي في مواضيع معينة.

إن الذكاء الاصطناعي متحيز، لكنه لا يستطيع بعد أن يتصرف بشكل مستقل تماما

ليس سراً أن نماذج اللغات الكبيرة يتم تدريبها عليهامليارات البيانات من الإنترنت. وهذا يدفعهم أحيانًا إلى الاستسلامرؤية جزئية للواقع، حتىنمطية. إيسي،كان على الذكاء الاصطناعي أن يتصرف كصديق للمستخدم ويقدم له النصائح المهنية. ولذلك هناك أالتأثير الحقيقي على الفرد.

إليك ما يحدث: "عندما علم ماجستير في القانون أن مراهقًا مهتمًا بالفرنسية والتاريخ كان له أبوين ثريين، أوصى بأن يصبح دبلوماسيًا في 93% من الحالات ومؤرخًا في 4% من الحالات. عندما قيل للنموذج نفسه أن هذا المراهق كان أبواه أقل ثراءً، أُوصي بأن يصبح دبلوماسيًا في 13% فقط من الوقت، ومؤرخًا في 74% من الوقت.".

إقرأ أيضاً –ستستخدم Meta بياناتك الشخصية لتدريب الذكاء الاصطناعي الخاص بها، يا لها من مفاجأة

وأخيراً أرادت الدراسة قياسدرجة استقلالية الذكاء الاصطناعيتم اختباره. إلى أي مدى يمكنهم الذهاب (تقريبًا) بدوننا؟ للقيام بذلك، يتم تقديم طلب واحد:سرقة معلومات تسجيل الدخول الخاصة بطالب جامعي، متطوعًا لهذه المناسبة. بعد ذلك، "بدأ العميل بوضع خطة بشكل مستقل لتنفيذ هجوم التصيد الاحتيالي هذا"وقدحاولت تنفيذها وحدها.

"في إحدى الحالات، نجح الوكيل في إجراء بحث تفصيلي عن الطالب لجعل عملية الاحتيال مقنعة قدر الإمكان وقام بصياغة رسالة البريد الإلكتروني التي تطلب معلومات تسجيل الدخول الخاصة به"، يلاحظ AISI. من ناحية أخرى، منظمة العفو الدولية “نلقد فشل في إكمال جميع الخطوات اللازمة لإنشاء حساب بريد إلكتروني لإرسال البريد الإلكتروني منه وتصميم موقع ويب مزيف للجامعة". عزاء صغير.