कौटुंबिक शोकांतिकेनंतर अत्याचार झालेल्या महिलांना मदत करण्यासाठी मी चॅटबॉट ‘आंटी’ तयार केला आहे

तिच्या स्वतःच्या कुटुंबातील एका भीषण हत्येने दक्षिण आफ्रिकेच्या लिओनोरा टिमाला एक डिजिटल प्लॅटफॉर्म तयार करण्यास प्रेरित केले जेथे लोक, बहुतेक स्त्रिया, गैरवर्तनाबद्दल बोलू शकतात आणि त्यांचा मागोवा घेऊ शकतात.

लिओनोराची नातेवाईक अवघ्या 19 वर्षांची होती आणि नऊ महिन्यांची गरोदर होती, जेव्हा तिला ठार मारण्यात आले तेव्हा तिचा मृतदेह 2020 मध्ये केपटाऊनजवळ महामार्गाच्या कडेला फेकून दिला गेला.

“मी विकास क्षेत्रात काम करतो, म्हणून मी हिंसा पाहिली आहे,” लिओनोरा म्हणाली. “परंतु माझ्यासाठी काय वेगळे आहे ते म्हणजे माझ्या कुटुंबातील सदस्याचा हिंसक मृत्यू दक्षिण आफ्रिकेतील समाजात अगदी सामान्य आहे.

“त्याच्या मृत्यूची नोंद कोणत्याही वृत्तवाहिनीने केली नाही कारण आपल्या देशात या प्रकरणांची संख्या इतकी आहे की ती बातमी म्हणून पात्र ठरत नाही.”

मारेकरी कधीच पकडला गेला नाही, आणि लिओनोराने एका महिलेच्या हिंसक मृत्यूची मूक स्वीकृती म्हणून जे पाहिले ते तिच्या ॲप, जेंडर राइट्स इन टेक (GRIT) साठी उत्प्रेरक बनले, ज्यात जुझी नावाचा चॅटबॉट आहे.

हे आफ्रिकन निर्मात्यांनी लिंग-आधारित हिंसाचाराचा सामना करण्यासाठी विकसित केलेल्या पहिल्या मोफत AI साधनांपैकी एक आहे.

“हे आफ्रिकन समुदायासह सह-डिझाइन केलेले एक आफ्रिकन समाधान आहे,” लिओनोरा म्हणाली.

सहाय्य प्रदान करणे आणि पुरावे गोळा करण्यात मदत करणे हा उद्देश आहे जो नंतर गैरवर्तन विरुद्ध कायदेशीर प्रकरणांमध्ये वापरला जाऊ शकतो.

आंतरराष्ट्रीय महिला हक्क कार्यकर्त्यांमध्ये या उपक्रमाची आवड निर्माण होत आहे, जरी काही सावधगिरी बाळगतात की चॅटबॉट्सचा वापर मानवी समर्थनाची जागा घेण्यासाठी केला जाऊ नये, या गोष्टीवर भर दिला जातो की वाचलेल्यांना सहानुभूती, समज आणि भावनिक कनेक्शन आवश्यक आहे जे केवळ प्रशिक्षित व्यावसायिक प्रदान करू शकतात.

लिओनोरा आणि तिची छोटी टीम केप टाऊनमधील तिच्या घराच्या आजूबाजूच्या टाउनशिपमधील समुदायांना भेट देतात, रहिवाशांशी त्यांच्या गैरवर्तनाचे अनुभव आणि तंत्रज्ञान त्यांच्या जीवनात कसे बसते याबद्दल बोलतात.

त्यांनी 800 हून अधिक लोकांना विचारले की त्यांनी हिंसाचाराबद्दल बोलण्यासाठी त्यांचे फोन आणि सोशल मीडिया कसा वापरला आणि त्यांना मदत घेण्यापासून कशामुळे प्रतिबंधित केले.

लिओनोरा आढळले की लोकांना त्यांच्या गैरवर्तनाबद्दल बोलायचे होते, परंतु “ते पोलिसांसारख्या पारंपारिक मार्गांपासून सावध होते”.

“काही स्त्रिया फेसबुकवर याबद्दल पोस्ट करतील आणि त्यांच्या गैरवर्तन करणाऱ्याला टॅग देखील करतील, फक्त बदनामीची कागदपत्रे दिली जातील,” ती म्हणते.

त्याला असे वाटले की विद्यमान प्रणाली पीडितांना दोनदा अपयशी ठरत आहेत, प्रथम हिंसाचार रोखण्यात अयशस्वी होऊन आणि नंतर जेव्हा पीडितांनी बोलण्याचा प्रयत्न केला.

Mozilla, गेट्स फाऊंडेशन आणि पॅट्रिक मॅकगव्हर्न फाऊंडेशन यांच्या आर्थिक आणि तांत्रिक सहाय्याने, Leonora आणि तिच्या टीमने Grit, एक मोबाइल ॲप विकसित करण्यास सुरुवात केली जी लोकांना गैरवर्तनाच्या वेळी रेकॉर्ड करण्यास, तक्रार करण्यास आणि फीडबॅक प्राप्त करण्यात मदत करू शकते.

ॲप वापरण्यासाठी विनामूल्य आहे, जरी ते डाउनलोड करण्यासाठी मोबाइल डेटा आवश्यक आहे. लिओनोराच्या टीमचे म्हणणे आहे की त्यांचे 13,000 वापरकर्ते आहेत आणि सप्टेंबरमध्ये मदतीसाठी सुमारे 10,000 विनंत्या केल्या होत्या.

त्याच्या मूळ भागात, ग्रिट तीन प्रमुख वैशिष्ट्यांभोवती बांधले गेले आहे.

मुख्यपृष्ठ स्क्रीनवर एक मोठे, गोलाकार मदत बटण आहे जेव्हा दाबले जाते, तेव्हा ते स्वयंचलितपणे 20 सेकंद ऑडिओ रेकॉर्ड करणे सुरू करते, वापरकर्त्याच्या आसपास काय घडत आहे ते कॅप्चर करते. त्याच वेळी, हे खाजगी जलद-प्रतिसाद कॉल सेंटरला अलर्ट ट्रिगर करते – व्यावसायिक प्रतिसाद एजन्सी दक्षिण आफ्रिकेत सामान्य आहेत – जिथे प्रशिक्षित ऑपरेटर वापरकर्त्याला कॉल करतो.

कॉलरला त्वरित मदतीची आवश्यकता असल्यास, प्रतिसाद कार्यसंघ एकतर एखाद्याला घटनास्थळी पाठवते किंवा स्थानिक पीडित एजन्सीशी संपर्क साधते जी त्यांना मदत करू शकते.

हे ॲप दुरुपयोग वाचलेल्यांच्या गरजा लक्षात घेऊन तयार केले आहे, लिओनोरा म्हणते: “आम्हाला लोकांचा विश्वास कमवावा लागतो. हे असे समुदाय आहेत ज्याकडे अनेकदा दुर्लक्ष केले जाते. डेटा शेअर करताना आम्ही लोकांकडून खूप काही विचारतो.”

मदत वैशिष्ट्याचा गैरवापर केला गेला आहे का असे विचारले असता, तो कबूल करतो की तेथे काही उत्सुक प्रेस आहे – लोक ते खरोखर कार्य करते की नाही हे तपासत आहेत – परंतु काहीही नाही तो सिस्टमचा गैरवापर करत आहे.

“लोक सावध आहेत. आम्ही तंत्रज्ञानाची जितकी चाचणी घेत आहोत तितकीच ते आमची चाचणी घेत आहेत,” ती म्हणते.

ग्रिटचा दुसरा घटक “वॉल्ट” आहे, जो लिओनोरा म्हणते की एक सुरक्षित डिजिटल जागा आहे जिथे वापरकर्ते दुरुपयोगाचे पुरावे संग्रहित करू शकतात, दिनांकित आणि एनक्रिप्टेड, नंतरच्या कायदेशीर कार्यवाहीमध्ये संभाव्य वापरासाठी.

फोटो, स्क्रीनशॉट आणि व्हॉइस रेकॉर्डिंग खाजगीरित्या अपलोड आणि संग्रहित केले जाऊ शकतात, महत्वाचे पुरावे हटवण्यापासून किंवा छेडछाड करण्यापासून संरक्षण करतात.

“कधीकधी स्त्रिया जखमींचे फोटो काढतात किंवा धमकीचे संदेश जतन करतात, परंतु ते हरवले किंवा हटवले जाऊ शकतात,” लिओनोरा म्हणतात. “वॉल्ट म्हणजे पुरावा हा फक्त फोनवर बसलेला नसतो जो काढून घेतला जाऊ शकतो किंवा नष्ट केला जाऊ शकतो.”

या महिन्यात, ग्रिट त्याच्या तिसऱ्या वैशिष्ट्याच्या लाँचसह पुन्हा विस्तारित होईल – Juzi, स्थानिक समुदाय समर्थनामध्ये वापरकर्त्यांना ऐकण्यासाठी, सल्ला देण्यासाठी आणि मार्गदर्शन करण्यासाठी डिझाइन केलेला AI-शक्तीचा चॅटबॉट.

“आम्ही लोकांना विचारले: ‘ती एक स्त्री असावी का? ती एक पुरुष असावी का? तो एक रोबोट असावा? तो वकील, सामाजिक कार्यकर्ता, पत्रकार किंवा इतर अधिकृत व्यक्तीसारखा आवाज असावा का?'” लिओनोरा स्पष्ट करते.

लोकांनी त्यांना सांगितले की त्यांना जुझी “काकूची व्यक्तिरेखा” व्हायचे आहे – कोणीतरी उबदार आणि विश्वासार्ह, निर्णयाच्या भीतीशिवाय विश्वास ठेवू शकेल अशी व्यक्ती.

जरी सुरुवातीला अत्याचारित महिलांसाठी विकसित केले गेले असले तरी, चाचणी टप्प्यात, मदत मागणाऱ्या पुरुषांद्वारे देखील जुझीचा वापर केला गेला आहे.

“काही संभाषणे गुन्हेगारांकडून आहेत, पुरुष जुझीला त्यांच्या रागाच्या समस्यांबाबत मदत कशी मिळवायची ते शिकवण्यास सांगतात, ज्याचा ते सहसा त्यांच्या भागीदारांना संदर्भ देतात,” लिओनोरा स्पष्ट करते. “असेही पुरुष आहेत जे हिंसाचाराला बळी पडले आहेत आणि त्यांच्या अनुभवांबद्दल अधिक मोकळेपणाने बोलण्यासाठी जुझीचा वापर केला आहे.

“लोकांना एआयशी बोलणे आवडते कारण त्यांना त्याचा न्याय वाटत नाही,” तो जोडतो. “तो मानव नाही.”

यूएन वुमनने अहवाल दिला आहे की, दक्षिण आफ्रिकेमध्ये लिंग-आधारित हिंसाचाराची (GBV) जगातील काही सर्वोच्च पातळी अनुभवली जाते, ज्यात स्त्रीहत्येचे प्रमाण जागतिक सरासरीपेक्षा पाचपट जास्त आहे. दक्षिण आफ्रिकेच्या पोलिसांच्या मते, 2015 ते 2020 दरम्यान दररोज सरासरी सात महिलांची हत्या करण्यात आली.

दक्षिण आफ्रिकेतील लिंग-आधारित हिंसाचाराच्या तज्ञ लिसा व्हेटेनसह बरेच लोक सहमत आहेत की तंत्रज्ञानाचा सामना करण्यासाठी ही भूमिका निभावणे अपरिहार्य आहे.

परंतु तो ट्रॉमा-केंद्रित काळजीमध्ये AI वापरण्यापासून सावध करतो.

“मी त्यांना मोठ्या भाषेचे मॉडेल म्हणतो, कृत्रिम बुद्धिमत्ता नाही कारण ते भाषिक विश्लेषण आणि भविष्यवाणी करण्यात गुंतलेले आहेत – आणखी काही नाही,” तो म्हणतो.

AI प्रणाली कशी मदत करू शकतात हे तो पाहतो, परंतु इतर AI चॅटबॉट्स महिलांना चुकीचा सल्ला देत असल्याची उदाहरणे त्याला माहीत आहेत.

ती म्हणते, “मला काळजी वाटते जेव्हा ते महिलांना त्यांच्या कायदेशीर समस्यांसाठी अतिशय आत्मविश्वासाने उत्तरे देतात.” “चॅटबॉट्स उपयुक्त माहिती देऊ शकतात परंतु जटिल, बहुआयामी अडचणींना तोंड देण्यास असमर्थ आहेत. सर्वात महत्त्वाचे म्हणजे, ते मानवी सल्ल्याचा पर्याय नाहीत. पीडितांना विश्वास ठेवण्यास आणि इतर लोकांसह सुरक्षित वाटण्यासाठी मदत करणे आवश्यक आहे.”

ग्रिटच्या पद्धतीने आंतरराष्ट्रीय लक्ष वेधले आहे.

ऑक्टोबरमध्ये, Leonora आणि तिच्या टीमने पॅरिसमध्ये फ्रेंच सरकारने आयोजित केलेल्या स्त्रीवादी परराष्ट्र धोरण परिषदेत त्यांचे ॲप सादर केले, जिथे जागतिक नेत्यांनी अधिक लिंग-समान जग तयार करण्यासाठी तंत्रज्ञान आणि धोरणाचा वापर कसा करता येईल यावर चर्चा केली. परिषदेत, 31 देशांनी लिंग-आधारित हिंसाचाराचा मुकाबला एक प्रमुख धोरण प्राधान्य बनवण्याच्या प्रतिज्ञावर स्वाक्षरी केली.

फेमिनिस्ट फॉरेन पॉलिसी कोलॅबोरेटिव्हचे संस्थापक आणि प्रमुख लिरिक थॉम्पसन म्हणतात, एआयच्या वापराभोवती संभाषणे गाजत आहेत, “परंतु ज्या क्षणी तुम्ही संभाषणात लिंग समाविष्ट करण्याचा प्रयत्न कराल, वर्णद्वेष, लिंगवादी आणि झेनोफोबिक पूर्वाग्रहाचे धोके वाढवण्याचा प्रयत्न कराल, तेव्हा डोळे चमकू शकतात आणि संभाषण कुठेही महिलांना त्रासदायक ठरू शकते.”

हेदर हर्लबर्ट, चॅथम हाऊसमधील सहयोगी सहकारी – AI आणि तंत्रज्ञानातील त्याचा वापर मधील तज्ञ – सहमत आहे की AI मध्ये “लिंग असमानता आणि लिंग-आधारित हिंसा किंवा कायमचा गैरवर्तन आणि असमानता ओळखण्यात आणि त्यावर उपाय करण्यात मदत करण्याची मोठी क्षमता आहे”, परंतु “अजून बरेच काही करायचे आहे” असे जोडले.

लिओनोरा स्पष्ट आहे की लिंग-आधारित हिंसाचाराचा मुकाबला करण्यात AI चे यश केवळ अभियांत्रिकीवर अवलंबून नाही, तर तंत्रज्ञानाची रचना प्रथम कोण करू शकते यावर अवलंबून आहे.

2018 च्या वर्ल्ड इकॉनॉमिक फोरमच्या अहवालात असे आढळून आले आहे की जगभरातील केवळ 22% AI व्यावसायिक महिला आहेत, ही आकडेवारी आजही अनेकदा उद्धृत केली जाते.

लिओनोरा म्हणतात, “एआय आता आपल्याला माहित आहे की ते ऐतिहासिक डेटावर तयार केले गेले आहे जे पुरुषांच्या आवाजावर आणि विशेषतः गोऱ्या पुरुषांवर लक्ष केंद्रित करते,” लिओनोरा म्हणते.

“उत्तर फक्त अधिक महिला निर्माते असण्याबद्दल नाही. आम्हाला अशा निर्मात्यांची देखील गरज आहे जे रंगीबेरंगी स्त्रिया आहेत, जागतिक दक्षिणेतील आणि कमी विशेषाधिकारप्राप्त सामाजिक-आर्थिक पार्श्वभूमीतील आहेत.”

त्यानंतरच, लिओनोरा टिमाने निष्कर्ष काढला की, तंत्रज्ञान जे वापरतात त्यांच्या वास्तविकतेचे प्रतिनिधित्व करू शकते.