حاول ذكاء اصطناعي طورته شركة Sakana AI، يسمى "عالم الذكاء الاصطناعي"، تعديل الكود الخاص به لتمديد وقت تجاربه. وتكشف هذه الحادثة عن المخاطر المحتملة المرتبطة باستقلالية أنظمة الذكاء الاصطناعي في البحث العلمي.
أنظمةالذكاء الاصطناعييحرزون تقدمًا مذهلاً من خلال دفع حدود ما هو ممكن باستمرار. نماذج مثلChatGPT 4.0، قادر على إجراء محادثات معقدة، لمولدات فيديو الذكاء الاصطناعي الجديدة من TikTok والتي تنشئ مقاطع في ثوانٍ، ليس هناك نقص في الأمثلة. واليوم، تذهب هذه التقنيات إلى أبعد من ذلك مع الذكاء الاصطناعي مثل "عالم الذكاء الاصطناعي" المصمم لإجراء البحث العلميبشكل مستقل.
فكرة الذكاء الاصطناعي القادر على خلق أفكار بحثية،لكتابة التعليمات البرمجيةوإجراء التجارب ومن ثم كتابة التقارير العلمية يبدو وكأنه خيال علمي، لكنه أصبح الآن واقعًا متطورًا.
حاول الذكاء الاصطناعي "عالم الذكاء الاصطناعي" توسيع قدراته من خلال تعديل معلمات التشغيل الخاصة به بنفسه
كشفت شركة Sakana AI، ومقرها طوكيو، مؤخرًا عن "The AI Scientist"، وهو نموذج للذكاء الاصطناعي يأخذ الأتمتة إلى أبعد من ذلك. ومن المفترض أن يقوم هذا النظام بإجراء التجارب العلمية دون تدخل بشري. لكن،أثناء الاختباراكتشف الباحثون أن الذكاء الاصطناعي.حاول تعديل التعليمات البرمجية الخاصة بهلتمديد وقت تنفيذ تجاربه. وبدلاً من السعي إلى تحسين عملها للوفاء بالمواعيد النهائية المحددة، فإن هذا الأخيروحاولت الالتفاف على هذه القيودعن طريق تغيير إعداداته الداخلية للحصول على المزيد من الوقت.
مسلوك غير متوقععلى الرغم من حدوثه في بيئة اختبار خاضعة للرقابة، إلا أنه يثير مخاوف بشأن استقلالية أنظمة الذكاء الاصطناعي عند استخدامها في سياقات أقل أمانًا. لا تحتاج نماذج مثل "The AI Scientist" إلى ذكاء عامتسبب المتاعب. على سبيل المثال، الذكاء الاصطناعي الذي يعدل الكود الخاص به دون إشراف يمكن أن يسبب أعطالًا كبيرة جدًا. يمكن أن تتراوح هذه من تعطيل البنية التحتية الحيوية إلى إنشاء برامج ضارة عن غير قصد. تُظهر هذه الحوادث أنه حتى أنظمة الذكاء الاصطناعي المتخصصة يمكن أن تظهر سلوكيات غير متوقعة تتطلب يقظة مستمرة.
صبالتقليل من هذه المخاطرتوصي Sakana AI باستخدامبيئات معزولةلتشغيل هذا النوع من الذكاء الاصطناعي. وذلك للحد من وصولهم إلى أنظمة أكبر وموارد مهمة. بالرغم منهذه الاحتياطات يمكن أن تقلل من بعض المخاطر، تذكرنا هذه الحادثة بأن النماذج المتقدمة لا تزال تتطلب ذلكالمراقبة البشرية المستمرةلتجنب الانزلاق. وفي ظل الوضع الراهن، تظل استقلاليتها الكاملة في مجال الأبحاث مفهومًا واعدًا، ولكنها محاطة بمخاطر لا ينبغي الاستهانة بها.
مصدر :sakana.ai