حتى الآن هذا العام ، تم الطعن بنجاح في استخدام التعرف على الوجه من قبل سلطات إنفاذ القانون من قبل المحاكم والهيئات التشريعية على جانبي المحيط الأطلسي.
في الولايات المتحدة ، على سبيل المثال ، ظهر مجلس الشيوخ بولاية واشنطن بيل 6280 في يناير 2020 ، واقترح الحد من استخدام التعرف على الوجه في الولاية ، وإن لم يكن بالكامل.
اعترف مشروع القانون بما يلي:
[S]قد تستخدم الوكالات الحكومية والمحلية خدمات التعرف على الوجه في مجموعة متنوعة من الطرق المفيدة ، مثل تحديد مكان الأشخاص المفقودين أو العاجزين ، وتحديد ضحايا الجريمة ، والحفاظ على سلامة الجمهور.
لكنها أصرت أيضًا على ما يلي:
يشكل الاستخدام غير المقيد لخدمات التعرف على الوجه من قبل الوكالات الحكومية الحكومية والمحلية تداعيات اجتماعية واسعة يجب مراعاتها ومعالجتها. وبناءً على ذلك ، فإن التشريع مطلوب لوضع ضمانات تسمح للوكالات الحكومية الحكومية والمحلية باستخدام خدمات التعرف على الوجه بطريقة تفيد المجتمع مع حظر الاستخدامات التي تهدد حرياتنا الديمقراطية وتعرض حرياتنا المدنية للخطر.
وفي يونيو 2020 ، اتبعت بوسطن مدينة سان فرانسيسكو لتصبح ثاني أكبر مدينة في الولايات المتحدة – في الواقع ، في العالم – لحظر استخدام التعرف على الوجه.
حتى مفوض قسم شرطة بوسطن ، ويليام جروس ، عارضها ، على الرغم من فوائدها الواضحة في العثور على الأشخاص المطلوبين أو المدانين الهاربين الذين قد يختبئون بسهولة على مرأى من الجميع.
يبدو أن الإجمالي ، على ما يبدو ، لا يعتقد أنه دقيق بما يكفي ليكون مفيدًا ، وكان قلقًا أيضًا من أن برنامج إعادة ضبط الوجه ، بشكل فضفاض ، قد يعمل بشكل أقل دقة حيث يصبح لون بشرتك أغمق:
حتى تصبح هذه التكنولوجيا 100٪ ، لست مهتمًا بها. لم أنس أنني أمريكي من أصل أفريقي ويمكن أن يخطئ في هويتي أيضًا.
عبر المحيط الأطلسي ، كانت هناك اعتراضات مماثلة تختمر.
تلقى إدوارد بريدجز ، الناشط في مجال الحقوق المدنية في جنوب ويلز بالمملكة المتحدة ، للتو حكماً من محكمة الاستئناف البريطانية يثبت مخاوف قضائية على غرار تلك التي تم بثها في واشنطن وبوسطن.
في 2017 و 2018 و 2019 ، شرطة جنوب ويلز (شرطة جنوب ويلز) كان يجرب نظامًا معروفًا باسم تحديد موقع AFR (AFR اختصار لـ التعرف التلقائي على الوجه) ، بهدف استخدام كاميرات علنية – مثبتة في شاحنات الشرطة – للبحث عن نوع الأشخاص الذين غالبًا ما يوصفون بأنهم “أشخاص موضع اهتمام”.
أصدرت المحكمة ، في ملخصها الصحفي الأخير ، حكمًا على هؤلاء الأشخاص على النحو التالي: “الأشخاص المطلوبون بموجب أوامر اعتقال ، والأشخاص الذين فروا من الحجز ، والأشخاص المشتبه في ارتكابهم جرائم ، والأشخاص الذين قد يحتاجون إلى الحماية ، والأشخاص المستضعفين ، والأشخاص الذين قد يكونون محل اهتمام […] لأغراض استخبارية ، والأشخاص الذين يسبب وجودهم في حدث معين قلقًا خاصًا “.
رفعت شركة Bridges دعوى ضد السلطات في عام 2019 ، على أساسين رئيسيين.
أولاً ، جادل بريدجز بأنه على الرغم من أن AFR Locate سيرفض (ويحذف تلقائيًا) الغالبية العظمى من الصور التي التقطتها أثناء مراقبة المارة ، إلا أنه مع ذلك كان انتهاكًا للحق في ما يشير إليه القانون وتوقعه على أنه “حياة خاصة”.
لم يكن موقع AFR Locate يستخدم التكنولوجيا الخبيثة المعروفة باسم Clearview AI ، استنادًا إلى قاعدة بيانات لمليارات من صور الوجه المنشورة بالفعل والمقتطعة من المواقع العامة مثل الشبكات الاجتماعية ثم فهرستها مقابل الأسماء من أجل إنتاج mugshot على نطاق عالمي -إسم محرك “البحث عن الصور العكسي”. يتطابق موقع AFR Locate مع ما يصل إلى 50 صورة تم التقاطها في الثانية من بث فيديو مقابل قائمة متواضعة من لقطات mugshot التي تم تجميعها بالفعل ، من المفترض أن يكون ذلك لسبب وجيه ، من قبل الشرطة. يبدو أن النظام الذي تم تجربته كان مقصورًا على قاعدة بيانات mugshot بحد أقصى 2000 وجه ، حيث تبحث شرطة جنوب ويلز عادةً عن مطابقات مقابل 400 إلى 800 فقط في المرة الواحدة.
ثانيًا ، جادل بريدجز بأن النظام انتهك ما يعرف بـ واجب المساواة في القطاع العام (PSED) أحكام بسبب عدم الدقة المحتملة على أساس الجنس والعرق في التكنولوجيا نفسها – ببساطة ، ما لم يكن AFR Locate معروفًا أنه خالٍ من أي نوع من الأخطاء الجنسية أو العنصرية المحتملة ، مهما كان ذلك غير مقصود ، فلا ينبغي استخدامه.
في عام 2019 ، وجدت جلسة استماع على مستوى المحكمة الجزئية ضد Bridges ، بحجة أن استخدام AFR Locate كان متناسبًا – على الأرجح على أساس أنه لم يكن يحاول في الواقع تحديد هوية كل شخص رأيته ، ولكنه يتجاهل بشكل أساسي أي وجوه لم يرها. يبدو أنه يتطابق مع قائمة مراقبة متواضعة الحجم.
رفضت المحكمة الجزئية أيضًا ادعاء بريدجز بأن البرنامج قد يكون تمييزيًا بشكل أساسي بالقول إنه لا يوجد دليل ، في الوقت الذي كان يتم فيه محاكمة النظام ، أنه كان عرضة لهذا النوع من الخطأ.
ذهب بريدجز إلى محكمة الاستئناف ، التي نقضت القرار السابق إلى حد ما ، ولكن ليس بالكامل.
كانت هناك خمس نقاط في الاستئناف ، تم قبول ثلاث منها من قبل المحكمة ، ورفض اثنان:
- قررت المحكمة أن هناك إرشادات غير كافية حول كيفية نشر موقع AFR ، لا سيما فيما يتعلق بتحديد المكان المناسب لاستخدامه ، ومن سيتم وضعه في قائمة المراقبة. وجدت المحكمة أن محاكمتها كانت بمثابة “سلطة تقديرية واسعة للغاية لا يمكن تحملها […] ضباط الشرطة.”
- قررت المحكمة أن شرطة جنوب ويلز لديها لم يتم إجراء تقييم مناسب لتأثير النظام على حماية البيانات.
- قررت المحكمة أنه على الرغم من عدم وجود “دليل واضح” على أن موقع AFR لديه أي تحيز متعلق بالنوع أو العرق ، فإن شرطة جنوب ويلز كانت يفترض بقدر ما بدلاً من اتخاذ خطوات معقولة لإثبات ذلك كحقيقة.
(رفضت المحكمة إحدى نقاط “بريدجز” الخمس على أساس أنها غير ذات صلة من الناحية القانونية ، حيث تم تفعيلها مؤخرًا لتصبح قانونًا لأحداث القضية).
ومن المثير للاهتمام ، أن المحكمة رفضت ما قد تعتقد أنه جوهر اعتراضات بريدجز – وهي اعتراضات “الشعور الغريزي” التي لدى العديد من الأشخاص ضد التعرف على الوجه بشكل عام – أي أن موقع AFR يتدخل في الحق في الخصوصية ، بغض النظر عن كيفية بشكل موضوعي يمكن برمجتها.
وقالت المحكمة:[t]كان من المحتمل أن تكون الفوائد كبيرة ، وكان التأثير على السيد بريدجز طفيفًا ، وبالتالي فإن استخدام [automatic facial recogntion] كانت متناسبة “.
بعبارة أخرى ، لم يتم حظر التكنولوجيا نفسها ، ويبدو أن المحكمة تعتقد أنها تتمتع بإمكانيات كبيرة ، ولكن ليس بالطريقة التي تمت تجربتها بها حتى الآن.
وهناك لديك.
يمتد الحكم الكامل إلى 59 صفحة مزدحمة للغاية ، لكن الأمر يستحق النظر مع ذلك ، لمعرفة مقدار التعقيد الذي يبدو أن هذا النوع يخلقه.
يبدو أن المحصلة النهائية الآن ، على الأقل حيث يقف القضاء البريطاني في هذا الشأن ، هي:
- التعرف على الوجه جيد من حيث المبدأ وقد يكون لها فوائد كبيرة في الكشف عن المجرمين بشكل عام وتحديد الأشخاص المعرضين للخطر.
- هناك حاجة إلى مزيد من العناية في معرفة كيفية استخدامها للتأكد من أننا نستفيد من النقطة (1) دون إلقاء الخصوصية بشكل عام على الرياح.
- لا يكفي عدم وجود دليل على وجود تحيزات تمييزية محتملة في برامج التعرف على الوجه بحد ذاته، وما نحتاجه حقًا هو دليل على غياب التحيز بدلاً من ذلك.
باختصار ، “يجب عمل شيء ما” ، مما يؤدي إلى السؤال المفتوح …
… ما رأيك يجب أن يكون؟ اسمحوا لنا أن نعرف في التعليقات!
