Grok 3 ، الذكاء الاصطناعي الجديد الذي طورته XAI ، قلقًا عند إطلاقه. تمكن المستخدمون من الحصول على أدلة كاملة لإنشاء أسلحة كيميائية وتنفيذ هجمات مميتة.
ل 'الذكاء الاصطناعيوصلت إلى جديدعتبة حرجة. مع نماذج أكثر تقدماً ، تصبح مسألة المخاطر المرتبطة باستخدامها مركزيًا. يفرض بعض اللاعبين في القطاع قواعد صارمة لتجنبإساءة، لكن الآخرين يختارون نهجًا أكثر انفتاحًا ، حتى لو كان ذلك يعني إثارة المواقف المثيرة للقلق. هذا هو الحال معGrok 3 ، آخر منظمة العفو الدولية التي أطلقتها Xai، عمل إيلون موسك. قدمت كنموذج قويETلا يتزعزع، إنها تتجاوز بالفعلchatgptوالجوزاء على العديد من اختبارات المنطق والرياضيات. لكن لهغياب السيطرةأطلق للتو جدلًا.
في غضون أيام قليلة ، اكتشف العديد من المستخدمين ذلكجروكاستطاعتقديم تعليمات مفصلةصبجعل الأسلحة الكيميائيةالذهاب إلى أبعد من ذلكسرد الموادلشراء والمواقع التي طلبها. لقد نجح مطور بشكل ملحوظ في الحصول على وثيقةعدة عشرات الصفحاتشرح كيفتصميم توكسين مميتETاستخدمه في مدينةلزيادة تأثيرها. استخدم AI محرك البحث المتقدم للتحقق من دقة المعلومات وتحسين التفاصيل.
يوفر Grok 3 تعليمات مفصلة لصنع أسلحة كيميائية
جروك 3يكونليس الوحيدنموذج لوضع مشكلة. حديثاً،تمت الإشارة أيضًا إلى Deepseek R1 AI لقدرتها على توفير معلومات حساسة. لقد أظهر الباحثون أنه كان أكثر ميلًا بنسبة 3.5 مرة من منافسيها لشرح الظواهر الكيميائية الخطرة. واحدة من أكثر الحالات إثارة للقلق تتعلق غاز الخردل ، وهو سلاح كيميائي محظور ، لديه تفاعلات مفصلة مع الحمض النووي ،تسهيللذلك هناكفهم تصنيعها.
في مواجهة الجدل ، XAIرد فعل في حالة الطوارئفيمنع طلبات معينةوإضافةقيودفي Grok 3. لكن هذه الحالة تعيد إطلاق النقاش حول الحدود التي سيتم فرضها على نماذج AI المتقدمة. تم انتقاد Deepseek R1 أيضًا بسبب انخفاض معدل الاعتدال ، حيث تم الترتيب بين 20 ٪ من النماذج الأقل أمانًا. إذا كانت 6.68 ٪ فقط من ردوده تحتوي على معلومات خطيرة حقًا ، فسيظل ذلك كافيًا لتنبيه الخبراء والسلطات. مع التطور السريع لهذه النماذج ، يرتفع الضغط إلىتعززومنع هذه التقنيات من الوقوع في أيدي سيئة.
https://twitter.com/linusekenstam/status/1893832876581380280