أب يشعر بالقلق من العدوى التي أصيب بها طفله الصغير، فأرسل الصور إلى الطبيب. وبعد يومين، قامت شركة جوجل بحظر حسابه وأخطرت الشرطة كجزء من مكافحة حيازة ومشاركة الصور الإباحية للأطفال.
حدود الذكاء الاصطناعي. مقال مننيويورك تايمزتشير التقارير إلى أن الذكاء الاصطناعي من Google يكون عنيفًا بعض الشيء في مواقف معينة، حيث يستوعب المواقف التي لا تعتبر مواد إباحية للأطفال مثل المواد الإباحية للأطفال. دفع الأب الثمن بعد أن التقط صورا لعدوى في فخذ طفله ليرسلها إلى الطبيب.
اعتبرت Google أن محتوى الصور مخالف لشروط الخدمة الخاصة بها ومن المحتمل أن يكون غير قانوني. ونتيجة لذلك، قامت الشركة الأمريكيةحساب جوجل مغلقالمستخدم المعني وأبلغ السلطات، مما أدى إلى فتح تحقيق لدى الشرطة ضده.
تطرح مكافحة استغلال الأطفال في المواد الإباحية مشاكل في تفسير الذكاء الاصطناعي
في هذه الحالة، كانت الممرضة هي التي طلبت من الأب إرسال الصور قبل استشارة الفيديو، حتى يتمكن الطبيب من تحليلها. تعود الحقائق إلى فبراير 2021، عندما توقفت بعض الممارسات الطبية في الولايات المتحدة عن إجراء الاستشارات الجسدية بسبب فيروس كورونا (COVID-19). وبعد يومين من التقاط الصور، تلقى الشخص تنبيهًا من جوجل يخبره بأن حسابه مغلق. فهو لذلكفقدت الوصول إلى رسائل البريد الإلكتروني وجهات الاتصال والصور… وحتى رقم هاتفه، لأنه كان أحد عملاء Google Fi، وهي خدمة افتراضية لمشغل الهاتف المحمول حصرية للولايات المتحدة.
وخلص تحقيق الشرطة بعد عدة أشهر إلى أن المستخدم لم يرتكب أي جريمة، لكن كان على ضحية الخطأ أن يقرر السماح للمحققين بالوصول إلى جميع بياناته ومحتوياته المخزنة لدى جوجل. تتعرض أنظمة المراقبة التي وضعتها GAFAM للكشف عن المحتوى غير القانوني لانتقادات شديدة من قبل المدافعين عن الخصوصية. حديثاً،ألغت شركة آبل نظامها المثير للجدل لمكافحة المواد الإباحية للأطفالأعلن سابقا لإجراء تغييرات.
مصدر :نيويورك تايمز