نظام التعرف على الوجه يصنف مشرعين أمريكيين على أنهم مجرمين!

قطعت تقنية التعرف على الوجه شوطًا كبيرًا في السنوات الأخيرة، واليوم يعتمد العديد من مستخدمي الهواتف الذكية على تقنية التعرف على الوجه لفتح قفل الشاشة، للحفاظ على أمان أجهزتهم.

ولن يقوم برنامج مسح الوجه من “امازون Amazon“، والذي يطلق عليه “Rekognition” بإلغاء قفل هاتفك، لكن يتم استخدامه حاليًا من قِبل بعض وكالات إنفاذ القانون للتعرف على المجرمين، استنادًا إلى ملفات “mugshots” الخاصة بهم.

وفي العام الماضي، قام اتحاد الحريات المدنية الأمريكي بإجراء فحص على صور لأعضاء الكونغرس باستخدام برنامج “Rekognition”، ووجدوا أن البرنامج وضع علامة على 28 منهم على أنهم مجرمين معروفين.

وأظهرت هذه النتائج الخاطئة عيوبًا خطيرة في برنامج أمازون، وأبرزت تحيزًا عرقيًا في البرنامج، حيث قام بوضع علامات غير متناسبة على الأشخاص ذوي بشرة مختلفة. الآن، بعد مرور عام، أجرى اتحاد الحريات المدنية الأمريكي اختباره مرة أخرى،.. ويبدو أنه لم يتغير شيء تقريبًا.

وفي أحدث اختبار، تم استخدام برنامج “Rekognition”على صور لـ 120 مشرعًا من ولاية كاليفورنيا، وأنتج مرة أخرى عشرات من التطابقات الخاطئة للمجرمين المعروفين.

وتم وضع علامة على 26 شخصًا على أنهم متطابقون مع “mugshots” في قاعدة بيانات إجرامية، وهو ما يقرب من واحد من بين كل خمسة مسؤولين تم تشغيلهم عبر النظام.

ويهدف الاختبار إلى تسليط الضوء على عيوب استخدام هذه التكنولوجيا غير الدقيقة لتحديد المجرمين المحتملين. قد يساعد البرنامج الشرطة التي قد تعتمد عليه للتعرف السريع على الأفراد الذين لديهم سجلات إجرامية، إلا أنه يمكن أن يخطئ ويدرج مطلوبون باسم آخر.

وقال عضو في جمعية كاليفورنيا “فيل تينغ” لصحيفة “لوس أنجلوس تايمز” والذي كان أحد المشرعين الذين تم وضع علامة زورًا على أنهم مجرمون: “من الواضح أن البرنامج ليس جاهزًا للاستخدام في مجال إنفاذ القانون. هذه الأخطاء، يمكننا أن نشبهها، لكن إذا تم إلقاء القبض عليك وتسجيلك، فقد يكون من الصعب عليك الحصول على السكن والوظيفة، إن لها تأثيرات حقيقية”.

أما أمازون، فمن جانبه يدعي أن اتحاد الحريات المدنية الأمريكي، “يسيء استخدام” البرنامج الذي يمكن تخصيصه، بحيث لا يُرجع النتائج إلا عندما يكون واثقًا بنسبة 99 بالمائة في أي تطابق.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى

أنت تستخدم إضافة Adblock

نرجو منك دعمنا وذلك بتعطيل إضافة Adblock :)