الذكاء الاصطناعي التوليدي قادر على فعل ألف شيء وشيء، من الأكثر فائدة من حيث الإنتاجية، إلى الأكثر ضررًا. لقد أدرك مجرمو الإنترنت جميع الفوائد التي يمكنهم الحصول عليها من هذه التكنولوجيا الجديدة. إننا نسمع بشكل متكرر أكثر عن حملات التصيد الاحتيالي الأكثر تعقيدًا التي تم إنشاؤها باستخدام هذه الفئة الجديدة من الأدوات.
اليوم، على سبيل المثال، هو كذلكWormGPTالذي يجعل الناس يتحدثون عنه. برنامج الدردشة الآلي هذا مخصص للمتسللينمتاحة بحرية على مواقع القراصنة. يدعي مصمموه أنه يجعل من السهل إنشاء "هجمات اختراق البريد الإلكتروني". بعبارة أخرى،يسمح لك بإنشاء حملات بريد إلكتروني مخصصةمقنعة جدًا وتستهدف موظفي المنظمات التجارية أو الحكومية أو غير الربحية.
كما يوحي اسمه، يعد WormGPT بديلاً لأنظمة الذكاء الاصطناعي السائدة مثلبارد وآخرون ChatGPT. مثلهم، تستفيد البرامج الضارة من نموذج اللغة الممتلك. حتى أن منشئه يذهب إلى حد تعريف WormGPT على أنه "العدو الأكبر لبرنامج ChatGPT الشهير [...] والذي يتيح لك القيام بجميع أنواع الأشياء غير القانونية". كما نرى،يعمل WormGPT دون أي حدود أخلاقيةعلى عكس ChatGPT، على سبيل المثال.
ومع ذلك، على الرغم من تسويق WormGPT كبرامج ضارة متخصصة، إلا أن المزيد من أدوات الذكاء الاصطناعي السائدة قادرة أيضًا على إحداث نفس القدر من الضرر. هذا هو الحالBard، برنامج الدردشة الآلي من Google متوفر الآن في فرنسا. وجدت شركة Check Point Research أن المتسللين يستخدمون Mountain View AI لإنشاء محتوى ضار. ووفقا للباحثين، فإن القيود الأخلاقية التي يفرضها مطوروتعد إساءة استخدام Bard أسهل بكثير من إساءة استخدام ChatGPT.
علاوة على ذلك، أثبت باحثون من Mithril Security ذلكمن الممكن "إفساد" نموذج لغة كبيرعن طريق تعديل LLM مفتوح المصدر المسمى GPT-J-6B. وبعد تعديلها تخصصت في التضليل. لقد جعله مصمموه متاحًا في مستودع عام، حتى يتمكن مستخدمو الإنترنت من دمجه في تطبيقات أخرى، وتسميم سلسلة التوريد الخاصة بـ LLM:تقنية تسمى PoisonGPT.
مصدر :أخبار القراصنة