جوجل تحارب المحتوى المسيء للأطفال عبر الذكاء الاصطناعي

أطلقت شركة جوجل برنامج ذكاء اصطناعي مجاني مصمم لمساعدة المشرفين البشريين الذين يعملون على تحديد المحتوى المسيء للأطفال وإزالته، حيث تعتبر عملية إزالة المواد المسيئة للأطفال أولوية بالنسبة لشركات الإنترنت الكبيرة، ولكنها في الوقت نفسه تعد مهمة صعبة ومرهقة لأولئك المشرفين، إذ تعمل معظم الحلول التقنية في هذا المجال عن طريق التحقق من الصور ومقاطع الفيديو بالاعتماد على قائمة بالمواد المسيئة التي تم تحديدها مسبقًا مثل PhotoDNA، وهي أداة تم تطويرها بواسطة مايكروسوفت وجرى اعتمادها من قبل شركات مثل فيسبوك و تويتر.

وتعد هذه النوعية من البرامج التي تستعرض الويب بشكل منهجي من أجل إنشاء فهرس للبيانات بمثابة طريقة فعالة لمنع الأشخاص الذين ينشرون محتوى مسيء للأطفال تم تحديده مسبقًا، ولكن هذه البرامج تعاني من أنها غير قادرة على تحديد المواد التي لم يتم تحديدها مسبقًا على أنها غير قانونية، لذلك ينبغي على المشرفين البشريين التدخل ومراجعة المحتوى بأنفسهم.

ويساعد برنامج الذكاء الاصطناعي الجديد من جوجل في هذه النقطة، إذ تحاول الشركة، باستخدام خبرتها في مجال تقنيات الرؤية الحاسوبية، مساعدة المشرفين البشريين في عملية فرز الصور ومقاطع الفيديو التي تم الإبلاغ عنها مسبقًا، والتركيز بشكل كبير على مراجعة المحتوى المسيء للأطفال، الأمر الذي من شأنه السماح بإجراء عملية المراجعة بسرعة أكبر بكثير من السابق.

ووفقًا للشركة فقد ساعد برنامج الذكاء الاصطناعي الجديد في إحدى التجارب المشرف على اتخاذ إجراء بشأن محتوى مسيء للأطفال بشكل أكبر بنسبة 700 في المئة خلال الفترة الزمنية نفسها، وقال فريد لانغفورد Fred Langford، نائب الرئيس التنفيذي لمؤسسة مراقبة الإنترنت IWF، “إن البرنامج سيساعد الفرق البشرية مثلنا ذات الموارد المحدودة بكفاءة أكبر بكثير، حيث أننا نستخدم في الوقت الحالي العنصر البشري فقط لتحديد المحتوى”.

وتعتبر مؤسسة مراقبة الإنترنت IWF واحدة من أكبر المنظمات المتخصصة في وقف انتشار المحتوى المسيء للأطفال عبر الإنترنت، ويقع مقرها في المملكة المتحدة، لكنها تحصل على تمويل ومساهمات من كبرى شركات التكنولوجيا العالمية، بما في ذلك جوجل، وتوظف فريقًا من المشرفين البشريين لتحديد الصور المسيئة، وتعمل ضمن أكثر من 12 بلدًا حول العالم مع حصولها على بلاغات من قبل مستخدمي الإنترنت حول المواد المشبوهة.

ويقول فريد لانغفورد إنه نظرًا لما يجري الحديث عنه حول الذكاء الاصطناعي وإمكانياته فإن IWF سوف تختبر هذا البرنامج لمعرفة كيفية أدائه وتوافقه مع سير عمل المشرفين البشريين، وأضاف أن أدوات مثل هذه كانت خطوة نحو أنظمة مؤتمتة بالكامل يمكنها تحديد المواد التي لم يتم مشاهدتها من قبل دون تفاعل إنساني، لكنه أضاف أنه لا يجب الوثوق بهذه الأدوات إلا في القضايا الواضحة لتجنب ترك المواد المسيئة تنتشر عبر الشبكة.

ويعتمد برنامج جوجل الجديد على الشبكات العصبونية العميقة DNN، وتخطط الشركة لتوفيره بشكل مجاني للمنظمات غير الحكومية NGO وغيرها من شركاء الصناعة، بما في ذلك شركات التكنولوجيا الأخرى، وتأتي هذه الخطوة في الوقت الذي تواجه فيه عملاقة البحث انتقادات متزايدة بسبب دورها في مساعدة المجرمين على نشر المواد المسيئة للأطفال عبر الويب.