لقد ضربت Microsoft بشدة في معركتها ضد الاستخدام المسيء للذكاء الاصطناعي. كشفت الشركة عن هوية أربعة أفراد متهمين باستغلال خدمة Azure Openai بشكل غير قانوني لتوليد Deepfakes الجنسي ، وخاصة المشاهير.
كشفت Microsoft أن الناس ، من إيران والمملكة المتحدة وهونج كونج وفيتنام ،سيكون الأعضاء الرئيسيين في شبكة جنائية دولية تسمى Storm-2139 من قبل Microsoft.وفقًا للشركة ، كانت هذه المجموعة قد استخدمت مفاتيح API للعديد من عملاء Microsoft للوصول إلى خدمة Azure Openai والتجول في الضمانات التي تم إعدادها لمنع إنشاء محتوى ضار.
قدمت وحدة الجرائم الرقمية في Microsoft في البداية شكوى ضد عشرة "جون دو" (أشخاص مجهول الهوية)لانتهاك القانون الأمريكي وشروط استخدام خدمات الذكاء الاصطناعي.تم تعديل هذه الشكوى على سبيل المثال ، وتحديدها على وجه التحديد أربعة أفراد: أريان ياديغارنيا (الاسم المستعار "Fiz") ، Alan Krysiak (الاسم المستعار "Drago") ، Ricky Yuen (الاسم المستعار "CG-DOT") و Phát phùng tấn (alias "asakuri").
اقرأ أيضا - Copilot Trahit Microsoft ، AI تكشف عن كيفية اختراق Windows 11
شبكة إجرامية متطورة
كشفت مسح Microsoft عن منظمة معقدة داخل Storm-2139. ستتألف المجموعة من المبدعين ، الذين يطورون الأدوات الضارة للالتفاف على حماية خدمات الذكاء الاصطناعى ، والموردين الذين يقومون بتعديل هذه الأدوات وإعادة بيعها بأسعار مختلفة ، والمستخدمين النهائيينالتي تستخدمه لتوليد محتوى اصطناعي غير المشروع.
لم يكن المتهم قد استغل معرفات العملاء التي تم الحصول عليها بشكل غير قانوني فحسب ، بل قام أيضًا بتعديل قدرات خدمات الذكاء الاصطناعى لإعادة بيعها إلى الجهات الفاعلة الخبيثة الأخرى. كانوا سيوفرون تعليمات مفصلة حول كيفية إنشاء محتوى ضار ، بما في ذلك الصور الحميمة غير العادية للمشاهير والمحتوى الجنسي الصريح.
كتذكير ، حصلت Microsoft على أمر من المحكمة يسمح له بالدخول إلى موقع ويب حاسم لعمليات المجموعة الإجرامية ،وبالتالي يزعج قدرتها على تسويق خدماتها غير القانونية.ويؤكد ستيفن ماسادا ، المستشار القانوني المساعد لوحدة الجرائم الرقمية في Microsoft ، على أهمية كشف هؤلاء الأفراد وتسليط الضوء على أنشطتهم الخبيثة لإقامة سابقة في مكافحة الاستخدام المسيء لتقنيات الذكاء الاصطناعي.