100 मैल दूर असलेल्या एका शहरात एका निष्पाप माणसाने फेशियल रिकग्निशन सॉफ्टवेअरने त्याला संशयित चोराशी गोंधळात टाकल्यानंतर पोलिसांवर दावा दाखल केला.
अल्वी चौधरी, 26, साउथहॅम्प्टनमध्ये घरातून काम करत होते ज्या घरात तो त्याच्या पालकांसह सामायिक करतो तेव्हा अधिकाऱ्यांनी त्याला अटक केली आणि त्याला 10 तास ताब्यात घेतले आणि अखेरीस पहाटे 2 वाजता पुढील कारवाई न करता सोडण्यात आले.
थेम्स व्हॅली पोलिसांनी वापरलेल्या ऑटोमेटेड फेशियल रेकग्निशन सॉफ्टवेअरने त्याची मिल्टन केन्स येथे £3,000 च्या घरफोडीतील संशयिताशी जुळवून घेतले.
परंतु श्री चौधरी यांचा दावा आहे की कथित गुन्ह्याच्या सीसीटीव्ही फुटेजमध्ये एक तरुण माणूस दिसला जो त्याच्या कुरळे केसांशिवाय प्रत्येक प्रकारे त्याच्यापेक्षा वेगळा दिसत होता.
त्याने द गार्डियनला सांगितले: “मला खूप राग आला कारण मूल माझ्यापेक्षा 10 वर्षांनी लहान दिसत होते.
“सर्व काही वेगळे होते.” त्वचा हलकी झाली होती. संशयित 18 वर्षांचा दिसत होता. त्याचे नाक मोठे होते. त्याच्या चेहऱ्यावर केस नव्हते. त्याचे डोळे वेगळे होते. त्याचे ओठ माझ्यापेक्षा लहान होते.
श्री चौधरी आता थेम्स व्हॅली पोलिस आणि हॅम्पशायर पोलिसांविरुद्ध नुकसान भरपाईची मागणी करत आहेत, ज्यांनी त्याला ताब्यात घेतले, असा दावा केला की त्याच्या शेजाऱ्यांनी त्याला जानेवारीमध्ये अटक केली होती, ज्यामुळे त्याचे वडील अत्यंत चिंताग्रस्त होते आणि दुसऱ्या दिवशी त्याला काम करण्यास असमर्थ होते.
फेशियल रेकग्निशन तंत्रज्ञानाचा वापर करून केलेल्या मॅचसाठी संशयिताची प्रतिमा पोलिस यंत्रणेवर संग्रहित करणे आवश्यक आहे.
निष्पाप माणूस अल्वी चौधरीने 100 मैल दूर असलेल्या एका शहरात फेशियल रिकग्निशन सॉफ्टवेअरने त्याला एका संशयित चोरासोबत गोंधळात टाकल्यानंतर पोलिसांकडे दावा दाखल केला आहे.
2021 मध्ये पोर्ट्समाउथमध्ये नाईट आउट दरम्यान हल्ला झाल्यानंतर चुकीच्या पद्धतीने अटक करण्यात आल्यानंतर श्री चौधरी यांचा चेहरा डेटाबेसवर होता.
ब्रिटीश पोलिस दल राष्ट्रीय डेटाबेसमध्ये सुमारे 19 दशलक्ष सेल्फी शोधण्यासाठी गृह कार्यालयाने खरेदी केलेले जर्मन अल्गोरिदम वापरत आहेत.
ते एका महिन्यात सुमारे 25,000 शोध घेतात आणि राष्ट्रीय पोलीस प्रमुखांच्या परिषदेच्या मते, सामन्यांना वस्तुस्थितीऐवजी बुद्धिमत्ता म्हणून मानले पाहिजे.
टेम्स व्हॅली पोलिसांनी श्री चौधरी यांना अटक करण्याचा निर्णय मानवी दृश्य मूल्यमापन तसेच तंत्रज्ञानाशी जुळवून घेतल्यानंतर घेतला होता.
परंतु फोर्सने चूक मान्य केली “कदाचित चेहर्यावरील ओळख तंत्रज्ञानातील पक्षपाताचा परिणाम असावा”.
चेहर्यावरील ओळखीचे सॉफ्टवेअर फसवणूक करण्यापासून दूर आहे आणि गेल्या डिसेंबरमध्ये होम ऑफिसच्या संशोधनात असे दिसून आले आहे की काळ्या चेहऱ्यांशी जुळणारे सामने 5.5 टक्के वेळा खोटे पॉझिटिव्ह होते, तर आशियाई चेहऱ्यांशी जुळणारे सामने 4 टक्के प्रकरणांमध्ये खोटे पॉझिटिव्ह होते.
दोन्ही संख्या 0.04 टक्के पांढऱ्या-चेहऱ्याच्या जुळण्यांपेक्षा खूप जास्त आहेत ज्यामुळे खोट्या सकारात्मक परिणाम होतात.
एका अधिकाऱ्याने श्री चौधरी यांना सांगितले: “चेहर्यावरील ओळखीचा वापर आधीच धोरणात्मक स्तरावर पुनरावलोकनाधीन असल्याने, मला व्यापक संस्थात्मक शिक्षणाचा भाग म्हणून हा मुद्दा उपस्थित करण्याची गरज वाटत नाही.”
अल-इनोसंटने सांगितले की क्लिपमधील चेहरा वेगळा असतानाही त्याला अटक करण्यात आली.
त्याने पुढे सांगितले की, त्याने 115 मैल दूर असलेल्या कथित गुन्ह्याच्या दिवशी साउथॅम्प्टनमधील व्यावसायिक बैठकांचे पुरावे देखील दिले.
त्याने दावा केला की जेव्हा हॅम्पशायर पोलिस स्टेशनच्या अधिकाऱ्यांनी तो व्हिडिओमधील माणसासारखा दिसतो का असा प्रश्न केला तेव्हा ते हसले.
चौधरी पुढे म्हणाले की, एकदा टेम्स व्हॅलीचे पोलिस अधिकारी त्यांची मुलाखत घेण्यासाठी आले, तेव्हा त्यांना समजले की क्लिपमधील संशयित तो नाही.
इयान क्लेटन म्हणाले की त्याने वस्तू चोरल्याचा दावा केल्यानंतर चेस्टरमधील होम बार्गेन्स स्टोअर सोडण्यास सांगितले होते.
या घटनेनंतर सिस्टीमवर दुसरा फोटो ठेवल्याने आणखी चुकीच्या पद्धतीने अटक होऊ शकते, अशी भीती त्याला आता वाटत आहे.
चौधरी पुढे म्हणाले की ही गाथा त्याला “अधिक भ्रष्ट” बनवते ज्याचा त्याच्यावर नकारात्मक परिणाम होऊ शकतो कारण त्याला सॉफ्टवेअर अभियंता म्हणून काम करताना काहीवेळा सरकारी एजंटसाठी काम करण्यासाठी सुरक्षा मंजुरीची आवश्यकता असते.
पोलिस आणि गुन्हे आयुक्तांनी यापूर्वी “अंतर्गत पक्षपाताच्या संदर्भात” चेतावणी दिली आहे आणि आग्रह धरला आहे की “कोणत्याही वैयक्तिक प्रकरणात नकारात्मक प्रभावाचा कोणताही पुरावा नसला तरी, हे डिझाइनपेक्षा नशिबाने अधिक खाली आहे”.
साउथ वेल्स पोलिसांनी गेल्या महिन्यात फेशियल रेकग्निशन तंत्रज्ञानासाठी सुचविलेल्या सामन्यांच्या यादीत 32 व्या क्रमांकावर असूनही संशयित संशयितासह संभाव्य सामना म्हणून ओळखल्या जाणाऱ्या एका काळ्या माणसाला नुकसान भरपाई दिली.
एका निष्पाप आजोबावर चोर असल्याचा चुकीचा आरोप झाल्यानंतर चेहर्यावरील ओळख तंत्रज्ञानाने वस्तू चोरल्याचा सल्ला दिल्यावर हे घडले.
इयान क्लेटन, 67, म्हणाले की त्याला चेस्टर होम बार्गेन्स स्टोअर सोडण्यास सांगण्यात आले होते जेव्हा टेकने दावा केला की तो चोरीमध्ये सामील आहे ज्याचा त्याने काहीही संबंध नसल्याचे सांगितले.
निघून जाण्यास सांगितल्यानंतर, श्री क्लेटनने सुरक्षा कंपनी फेसवॉचशी संपर्क साधला, ज्याने त्याला बॅगेत वस्तू ठेवल्या आणि त्या चोरल्या असे सांगून त्याचा फोटो पाठवला.
फेशियल रेकग्निशन टेक्नॉलॉजी संशयास्पद हालचालींना ध्वजांकित करते जसे की बॅगमध्ये भरलेल्या वस्तू आणि फुटेजसह कामगारांना संदेश पाठवते आणि वर्तन कुठे झाले.
वॉच लिस्टमध्ये आवडीचा तथाकथित विषय स्टोअरमध्ये आल्यास ते कर्मचाऱ्यांना अलर्ट देखील पाठवते.
परंतु फेसवॉचने कबूल केले की क्लेटनने त्याचा फोटो आणि “संबंधित इतिहास” कायमचा काढून टाकला आहे, असे सांगून त्याच्या सिस्टमवर दिसायला नको होता.
डेली मेलने टिप्पणीसाठी थेम्स व्हॅली पोलिसांशी संपर्क साधला आहे.
हॅम्पशायर पोलिसांनी भाष्य करण्यास नकार दिला.
