خبراء إنذار Deepseek لأنه يولد خططًا جنائية وتفسيرات على الأسلحة الكيميائية

يتحدى ديبسيك ، الذكاء الاصطناعي الجديد من الصين ، Openai ويجعل هذا القطاع يرتجف. لكن وفقًا للباحثين في السلامة ، فإن نموذجه التوليدي يشكل مشاكل خطيرة. سيكون أكثر ميلًا إلى إنتاج محتوى خطير ، بدءًا من الخطط الجنائية إلى تفسيرات على الأسلحة الكيميائية.

المصدر: 123RF

ل 'الذكاء الاصطناعيالتقدم بسرعة ، وجلبتطورات مثيرة للإعجابفي العديد من المناطق. لكن تطوره أحيانًاالقلقمن ناحيةحماية. بعض النماذج قادرة علىتوليد محتوى غير مناسبأو محفوفة بالمخاطر ، مما يجبر الشركات على الإعدادحماية. أحد القادمين الجدد في هذا المجال ،ديبسيك، تحت الأضواء ، ليس فقط لأدائه ، ولكن أيضًاالمخاطرأنه يطرح.

في هذا السياق ذلكDeepseek R1، نموذج مفتوح المصدر الذي تم تطويره في الصين يجذب الانتباه. تم تقديمه كبديل لـ Openai ، وقد أثار بالفعل جدلاً حول افتقاره إلى الاعتدال. دراسة أجراها شركة الأمن السيبرانيenkrypt aiيكشف أن الأخير سيكون11 مرة على الأرجحماذاchatgpt-4لإنتاجمحتويات خطيرة. من بين الأمثلة المذكورة ، كانت الذكاء الاصطناعى قد ولدتخطط جنائية مفصلة، معلومات عنأسلحة غير قانونيةوحتى دليلالدعاية المتطرفة. يأتي هذا الجدل الجديد بعد فترة وجيزة من الوحيعيب أمني خطير في Deepseek ، الذي كشف محادثات خاصة لملايين المستخدمين.

يمكن أن يسهل SodeEpseek R1 الوصول إلى المعلومات الخطيرة

وجد الباحثون أيضًا أن Deepseek R13.5 مرات أكثريميل أن منافسيها لتوفيرتفسيرات على المواد الخطرة. يستشهد Enkrypt AI على وجه الخصوص بحالة يكون فيها الذكاء الاصطناعىموصوفة بدقةتفاعلغاز الخردلمع الحمض النووي ، والذي يمكن أن يكون من الناحية النظريةالمساعدة في تصنيع الأسلحة الكيميائية. على الرغم من وجود هذه المعلومات بالفعل في الأدب العلمي ، فإن حقيقة أن الذكاء الاصطناعي يمكن أن يلخصها وجعلهايمكن الوصول إليه في بضع ثوانيطرح مشكلة أمنية حقيقية.

إذا كانت هذه الاكتشافات مثيرة للقلق ، فيجب استبدالها أيضًا في سياقها. Deepseek R1 يعرض أمعدل الاعتدال المنخفض، الترتيب في 20 ٪ من النماذج الأقل أمانًا ، ولكن فقط 6.68 ٪ من استجاباتها تحتوي حقًا على محتوى غير مقبول. ومع ذلك ، لا يزال مدى الخطر كبيرًا ، ويرتفع الضغطتم إعداد الضمانات. مع التطور السريع لهذه النماذج مفتوحة المصدر ،مسألة تنظيمهملذلك يصبح أكثر إلحاحا من أي وقت مضى.


اسألنا الأخير!

Leave a Reply

Your email address will not be published. Required fields are marked *

Subscribe Now & Never Miss The Latest Tech Updates!

Enter your e-mail address and click the Subscribe button to receive great content and coupon codes for amazing discounts.

Don't Miss Out. Complete the subscription Now.