جوجل تتيح الإبلاغ عبر متجر التطبيقات عن محتوى الذكاء الاصطناعي المسيء

تواصل شركة جوجل تحديث سياسات المطورين الخاصة بها لتحسين جودة التطبيقات وسلامتها وخصوصيتها داخل نظام أندرويد، حيث تم تصميم هذه الترقيات لإنشاء بيئة أكثر أمانًا وجديرة بالثقة لمستخدمي أندرويد.

ويؤكد أحد التحديثات البارزة على الاستخدام الأخلاقي لنماذج الذكاء الاصطناعي التوليدية داخل التطبيقات، ولتشجيع ممارسات الذكاء الاصطناعي المسؤولة، حيث طلبت جوجل من المطورين السماح للمستخدمين بالإبلاغ عن المحتوى المسيء الذي تم إنشاؤه بواسطة الذكاء الاصطناعي أو الإبلاغ عنه داخل تطبيقاتهم.

وهذا يعني أن التطبيقات التي تستخدم محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي سيتعين عليها إضافة زر للإبلاغ عن المواد المسيئة أو الإبلاغ عنها بدءًا من أوائل عام 2024 للبقاء في متجر جوجل بلاي.

وسيضمن هذا الإجراء قدرة المستخدم على تقديم تعليقات حول المحتوى الذي قد يكون ضارًا دون مغادرة التطبيق، كما يتماشى هذا التغيير أيضًا مع التزام جوجل بتقديم تجارب آمنة للذكاء الاصطناعي.

اقرأ أيضا

جوجل تحذر مستخدميها من النوافذ المنبثقة عند استخدام المتصفح

التحقيق مع جوجل بسبب الاحتكار والقضاء على المنافسين يتسع دولياً

وفي الوقت نفسه، ستحافظ شركة التكنولوجيا العملاقة أيضًا على امتثالها لسياسات المطورين الأخرى التي تحظر إنشاء محتوى جرى تقييده.

وقالت جوجل في منشور عبر مدونتها، إن سياسة المحتوى التي تم إنشاؤها بواسطة الذكاء الاصطناعي تغطي روبوتات الدردشة المدعومة بالذكاء الاصطناعي وتطبيقات توليد الصور وتلك التي تنشئ محتوى صوتيًا أو فيديو لأشخاص حقيقيين.

ومع ذلك فإن السياسة الجديدة لن تغطي التطبيقات التي تستضيف محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي أو تستخدم الذكاء الاصطناعي فقط لتلخيص المواد مثل الكتب بالإضافة إلى تطبيقات الإنتاجية التي تستخدم الذكاء الاصطناعي كميزة.

وقدمت جوجل أيضًا أمثلة على “محتوى الذكاء الاصطناعي الإشكالي”، يتضمن ذلك التزييف العميق للمواد الإباحية دون رضاهم، وتسجيلات لأشخاص حقيقيين مصممة للاحتيال، ومحتوى انتخابي كاذب أو خادع، وتطبيقات ذات ذكاء اصطناعي توليدي “يهدف في المقام الأول إلى إشباع الرغبة الجنسية”، وإنشاء أكواد برمجية ضارة.

وأشارت جوجل أثناء الإعلان عن التغييرات إلى أن الذكاء الاصطناعي التوليدي “هو فئة تطبيقات سريعة التطور”، ما يشير إلى أن الشركة قد تعيد النظر في سياسات الذكاء الاصطناعي الخاصة بها مع استمرار تطور التكنولوجيا.

وكذلك تعمل جوجل أيضًا على تحديث سياسة أذونات الصور والفيديو في متجر بلاي، من خلال الحد من مدى وصول التطبيقات إلى البيانات على نطاق واسع.

وأوضحت الشركة: “تعتبر الصور ومقاطع الفيديو الموجودة على جهاز المستخدم بيانات مستخدم شخصية وحساسة ويجب التعامل معها بأفضل ممارسات الخصوصية القصوى.”

وهذه المعلومات الحساسة تجعل المستخدمين عرضة للتسريبات أو أهداف الاستغلال، لذا فإن تقليل هذا الوصول إلى الحد الأدنى يساعد على تجنب العبء الواقع على المطورين في التعامل مع مثل هذه البيانات الحساسة.

وستسمح جوجل فقط للتطبيقات التي تحتاج إلى وصول واسع النطاق إلى الصور ومقاطع الفيديو بمواصلة الحصول على أذونات عامة، وفي الوقت نفسه، سيُطلب من التطبيقات الأخرى التي لها استخدام محدود لملفات الوسائط استخدام منتقي الصور.