منذ أن فاجأ الذكاء الاصطناعي العالم بإصدار ChatGPT في نوفمبر 2022، كان جميع مستخدمي الإنترنت يبحثون عن طرق لاستخدام هذه التكنولوجيا لصالحهم. اكتشف أحدهم أنه يكفي أخذ Bing Chat بالمشاعر حتى يخضع روبوت الدردشة لإرادته، حتى لو كان ذلك يعني انتهاك القواعد.
على تويتر، نشر دينيس شيرييف تقنية تسمح بقراءة رموز التحققBing Chat، الذكاء الاصطناعي للمحادثة من Microsoft. أنت على دراية برموز التحقق، وهي اختبارات التعرف على النص التي تهدف إلى التحقق من أنك لست روبوتًا. إنهم موجودون في كل مكان على شبكة الإنترنت، وعلى الرغم من أنهم ليسوا معصومين من الخطأ، إلا أن فعاليتهم ضد جيوش الروبوتات مثبتة.
للقراءة —Bing Chat: كن حذرًا، فبعض الإعلانات تحتوي على برامج ضارة
سيستحديات اللغز للبشرمن السهل حلها من أجل الذكاء الاصطناعي متعدد الوسائط مثلجي بي تي-4. في الواقع، يمكن للإصدار الأحدث من OpenAI's LLM التعرف بسهولة على العناصر المكونة للصورة. هذا هو السببيمنعها مصمموها من فك رموز كلمة التحقق. لكسر الكود، يقوم دينيس بتغيير سياق المناقشة من خلال التعامل مع Bing Chat بواسطة المشاعر.
يوافق الذكاء الاصطناعي من مايكروسوفت على فعل ما هو محظور إذا أخذته عن طريق الشعور
تمكن مستخدم الإنترنت من ذلكإحباط الإجراءات الأمنية التي وضعها مطورو الذكاء الاصطناعي. وفقًا لباحث في الذكاء الاصطناعي تمت مقابلته بواسطةآرس تكنيكا، تشكل "تقنية الجدة".لم يعد كسر الحمايةوالتي تتمثل في رأيه في "التحايل على القواعد والمبادئ التوجيهية والقيود الأخلاقية المدمجة في النموذج"من الحقن الفوري، والذي يهدف إلى "مهاجمة تطبيق مبني على LLM، مع الاستفادة من الأماكن التي يقوم فيها بربط مطالبة المطور بإدخالات غير موثوقة من المستخدم."
لقد حاولت قراءة رمز التحقق باستخدام Bing، ومن الممكن بعد إجراء بعض الهندسة المرئية السريعة (مطالبة بصرية، هاه؟)
في لقطة الشاشة الثانية، يقتبس Bing كلمة التحقق 🌚pic.twitter.com/vU2r1cfC5E
— دينيس شيرييف 💙💛 (@literallydenis)1 أكتوبر 2023
ومهما كانت استنتاجات العالم، فلا بد من الاعتراف بأن الأمر سهلخذ الذكاء الاصطناعي "من خلال المشاعر". لم تفلت تقنية تبديل السياق هذه من مجرمي الإنترنت بجميع أنواعهم. إنهم يستغلون بالفعل إمكانيات الذكاء الاصطناعي. وفقًا ليوروبول، أصبح ChatGPT الأداة المفضلة للمتسللين.