سيكون ChatGPT قادرًا على خداع المراجعين العلميين. مثل هذا المستوى من التطور يمكن أن يؤدي إلى أزمة في النزاهة العلمية، كما يحذر مؤلفو دراسة جديدة.
الجديدروبوت الدردشة ChatGPTلقد ازدادت شعبيتها منذ إطلاقها قبل بضعة أشهر، وذلك بفضل أدائها الاستثنائي إلى حد ما. ولذلك أراد الباحثون معرفة ما إذا كانت قادرة على إنتاج ملخصات كاذبة بشكل مقنعخداع العلماء للاعتقاد بأن الدراسات حقيقية.
وللقيام بذلك، طلب باحثون من جامعة نورث وسترن وجامعة شيكاغو من ChatGPT إنشاء ملخصات بحثية مزيفة من 10 ملخصات حقيقية منشورة في المجلات الطبية، وتقديم المقالات المزيفة، إلى جانب المقالات الحقيقية، إلى العلماء. وكان المقصود منها التمييز بين الحق والباطل، وأقل ما يمكن أن نقوله هو ذلكالنتائج مثيرة للقلق.
اقرأ أيضا-تحب Microsoft ChatGPT وتقدم 10 مليارات دولار لتصبح مساهمًا شبه أغلبية
لم يتمكن المراجعون البشريون، الذين حصلوا على مزيج من الملخصات الحقيقية والمزيفة، من اكتشاف الملخصات التي تم إنشاؤها بواسطة ChatGPT إلا بنسبة 68% من الوقت. أخطأ المراجعون أيضًا في تعريف 14% من الملخصات الفعلية على أنها من إنتاج الذكاء الاصطناعي.
كما قدم الباحثون المقالات المكتوبة بواسطة chatGPT إلى برنامج كشف الانتحال. إذا كانت 100% منها فريدة بالفعل، نظرًا لأن chatGPT يولد الإجابات دون نسخ المصدر، فإن 8% منها فقط استوفت متطلبات التنسيق التي تتطلبها المجلات العلمية.
وبالتالي فإن ChatGPT لم يقترب بعد من استبدال الكتّاب في جميع المجالات، ولكن من المفترض أن يحرز برنامج الدردشة الآلي تقدمًا كبيرًا في غضون بضع سنوات. تعتمد المنشورات العلمية الأكاديمية على عملية تقديم ومراجعة المقالات من قبل خبراء بشريين في المجالات ذات الصلة، ولكن إذا لم يعودوا قادرين على التمييز بين المقالات التي تم إنشاؤها بواسطة الذكاء الاصطناعي والإنسان، فإن هذا قد يثير تساؤلات حول العديد من المهن.
وفي الوقت الحالي، يحث الباحثون المجلات والمؤتمرات الطبية التي تعتمد على الدراسات العلمية على الحفاظ على "معايير علمية صارمة» وتنفيذ أجهزة كشف الخروج بالذكاء الاصطناعي عند مراجعة المقالات.قام أحد الطلاب أيضًا بتطوير برنامج يسمح لك بمعرفة ما إذا كان النص قد تم إنشاؤه بواسطة chatGPT.