تطبيق ذكاء اصطناعى يفحص عملاء البنوك من وجوههم لمنحهم القروض أو رفض طلبهم كشفت DeepScore ومقرها طوكيو عن تطبيق التعرف على الوجه والصوت في معرض الإلكترونيات الاستهلاكية CES، الذي يوصف بأنه أداة لمانحى القروض وشركات التأمين والمؤسسات المالية الأخرى، فيميل الناس إلى إصدار أحكام سريعة على بعضهم البعض في نظرة واحدة، والآن تدعي خوارزمية أن لديها نفس القدرة على تحديد موثوقية الشخص للحصول على قرض في دقيقتين فقط.
وفقا لما ذكرته صحيفة “ديلى ميل” البريطانية، بينما يجيب العميل على 10 أسئلة، يقوم الذكاء الاصطناعي بتحليل وجهه وصوته لحساب النتيجة الحقيقية التي يمكن أن تساعد الشركات في قرار الرفض أو الموافقة.
تقول DeepScore أن الذكاء الاصطناعي الخاص بها يمكن أن يحدد الدقة بنسبة 70% ومعدل سلبي كاذب بنسبة 30%، وسوف ينبه الشركات إلى ضرورة زيادة الرسوم إذا تم الكشف عن عدم الأمانة.
وأثار العلماء مخاوف بشأن التحيز لهذه الأداة، قائلين إن التطبيق من المحتمل أن يميز ضد الأشخاص الذين يعانون من التشنجات اللاإرادية أو القلق، مما يؤدي إلى عدم تلقي هؤلاء الأفراد الأموال أو التغطية اللازمة.
قال الدكتور رومان شودري، مؤسسParity AI، منصة تدقيق التحيز الحسابي، “يمكنك القول بشكل إجمالي، إن هناك بعض الاتجاهات العامة في البشر عندما يكذبون، ولكن ذلك قد يتعارض مع الأزمات الصحية التي تجعل الشخص يقم بحركات متكررة تشبه التي تحددها الأداة للكذب”.
يستخدم العلماء الذكاء الاصطناعي لقراءة وجوه الأشخاص من أجل الكشف عن الحقائق المخفية، مثل الانتماء السياسي أو التفضيل الجنسي، لذلك قد لا يكون مفاجئًا أن يتم تدريب نظام واحد على تحديد الجدارة بالثقة للشخص.
وفقًا للشركة، فإن DeepScore AI يراقب وجه العميل ويستمع إلى صوته، وعندما يكذب، يشعر بالتوتر وتتحرك عينيه وفمه ويتغير صوتك.
كما أن تقنية DeepScore تعتمد على أكثر من 200 ورقة بحثية حول ارتباط الحركات الدقيقة والتوتر بمصداقية الشخص.
ومن ناحية أخرى، يقول الباحثون، إن تعبيرات الوجه ليست مؤشرات على الحالة العقلية وتختلف من شخص لآخر وحتى عبر الثقافات المختلفة، بالإضافة إلى ذلك، وجد أن التعرف على الوجه متحيز تجاه النساء والأشخاص ذوي البشرة الداكنة.
التعليق بواسطة حساب الفيسبوك
مقالات ذات صلة
-
-
-
-
-
-
