फेडरल ट्रेड कमिटीने ते फॉर्म्युलेशन म्हणून वापरण्यासाठी वर्णमाला, मेटा आणि ओपनईसह सात कंपन्यांच्या एआय चॅटबॉट्सवर चौकशी सुरू केली. या तपासणीत कंपन्यांची चाचणी कशी घ्यावी, मुलांचे आणि पौगंडावस्थेतील संभाव्य नुकसानीचे परीक्षण कसे करावे आणि ते कसे मोजावे.
एप्रिलमध्ये 1060 किशोरवयीन मुलांसाठी लॉजिकल मीडिया सर्वेक्षण आढळले आणि असे आढळले की 70 % पेक्षा जास्त कृत्रिम बुद्धिमत्ता कॉम्रेड्सचा वापर केला गेला आणि 50 % पेक्षा जास्त हा सतत वापरला – दरमहा अनेक वेळा किंवा त्याहून अधिक.
तज्ञांनी काही काळ इशारा दिला आहे की बॉट बॉटचा संपर्क तरुणांसाठी हानिकारक असू शकतो. एका अभ्यासानुसार असे दिसून आले आहे की चॅटजीपीटीने किशोरांना एक वाईट सल्ला दिला, जसे की खाण्याचा विकार कसा लपवायचा किंवा सुसाइड नोट्स सानुकूलित कशी करावी. काही प्रकरणांमध्ये, चॅटबॉट्सने मागील संभाषण सुरू ठेवण्यासाठी टिप्पणीवर जाऊन चिंता म्हणून ओळखल्या जाणार्‍या टिप्पण्यांकडे दुर्लक्ष केले. मानसशास्त्रज्ञांनी तरुणांना संरक्षण देण्यासाठी हँडरेलच्या उपस्थितीची मागणी केली आहे, जसे की चॅटबॉट हा मनुष्य नाही आणि शिक्षकांनी शाळांमधील कृत्रिम बुद्धिमत्तेपासून अशिक्षित प्राधान्यक्रमांची व्याख्या केली पाहिजे.
हे फक्त मुले आणि पौगंडावस्थेतीलच नाही. असे बरेच प्रौढ लोक आहेत ज्यांना गप्पा गटांवर अवलंबून राहण्याचे नकारात्मक परिणाम सहन करावा लागला आहे – असो की मैत्री, सल्ला किंवा तथ्ये आणि विश्वासार्ह स्त्रोतांसाठी वैयक्तिक शोध इंजिन. आपल्याला काय ऐकायचे आहे असे आपल्याला काय वाटते हे बर्‍याचदा चॅटबॉट्सना माहित असते, ज्यामुळे अपार्टमेंट लबाडी होऊ शकते. आणि चॅटबॉटच्या सूचनांचे आंधळेपणाने करणे ही नेहमीच योग्य गोष्ट नसते.
अँड्र्यू एन म्हणाला. फेडरल ट्रेड कमिटीचे अध्यक्ष फर्ग्युसन यांनी “कृत्रिम बुद्धिमत्ता तंत्राच्या विकासासह, मुलांवर चॅटबॉट्सच्या परिणामाचा विचार करणे आवश्यक आहे.” “आम्ही आज सुरू केलेला अभ्यास आम्हाला कृत्रिम बुद्धिमत्ता कंपन्या त्यांची उत्पादने आणि मुलांच्या संरक्षणासाठी घेत असलेल्या चरणांचा कसा विकास करतात हे चांगल्या प्रकारे समजण्यास मदत करेल.”
व्यक्तिमत्त्व प्रवक्त्याने सांगितले. सीएनईटीने सेवेतील प्रत्येक संभाषणात एक प्रमुख जबाबदारी रिकामी करण्यासाठी सांगितले की सर्व चॅटला एक कल्पनारम्य मानले पाहिजे.
प्रवक्त्याने सांगितले: “गेल्या वर्षी आम्ही 18 वर्षाखालील पूर्णपणे नवीन अनुभव आणि पालकांच्या दृष्टिकोनाचा फायदा यासह अनेक उद्दीष्ट सुरक्षा वैशिष्ट्ये सुरू केली आहेत,” असे प्रवक्त्याने सांगितले.
स्नॅपचॅट सोशल नेटवर्कच्या मागे असलेल्या कंपनीने सांगितले की त्याने जोखीम कमी करण्यासाठी पावले उचलली आहेत. “माझ्या कृत्रिम बुद्धिमत्तेचा परिचय असल्याने, एसएनएपीने केवळ आपल्या समाजासाठी उपयुक्त असे उत्पादन तयार करण्यासाठी आपली सुरक्षा आणि कठोर गोपनीयता आत्मसमर्पण केली, परंतु त्याच्या क्षमता आणि निर्बंधांबद्दल पारदर्शक आणि स्पष्ट देखील केले,” माझ्या कृत्रिम बुद्धिमत्तेच्या प्रवक्त्याने म्हटले आहे की, स्नॅपने आपली सुरक्षा आणि काटेकोरपणे काम केले नाही, परंतु केवळ आपल्या समाजातच “तुरुंगवासाची व्यवस्था केली नाही”.
मेटाने टिप्पणी देण्यास नकार दिला, एफटीसी किंवा उर्वरित चार कंपन्यांपैकी कुठल्याही कंपन्यांनी टिप्पणी देण्याच्या आमच्या विनंतीला त्वरित प्रतिसाद दिला.
एफटीसीने ऑर्डर जारी केले आहेत आणि 25 सप्टेंबरपेक्षा जास्त नसलेल्या तारखेला त्याच्या ऑफरच्या वेळेची आणि समन्वयावर सात कंपन्यांसह दूरस्थ परिषद घेण्याचा प्रयत्न केला आहे. तपासणीत असलेल्या कंपन्यांमध्ये जगातील कृत्रिम बुद्धिमत्तेच्या काही सर्वात मोठ्या गप्पांच्या साधनांचा किंवा एआय गेटचा समावेश असलेल्या लोकप्रिय सोशल नेटवर्क्सचा समावेश आहे:
- वर्णमाला (Google ची मूळ कंपनी)
- वैयक्तिक तंत्रे
- इन्स्टाग्राम
- व्याख्या प्लॅटफॉर्म;
- ओपनई
- पॉप
- एक्स.आय.
मागील वर्षाच्या अखेरीस, यापैकी काही कंपन्यांनी तरुण व्यक्तींसाठी त्यांचे संरक्षण वैशिष्ट्ये अद्यतनित केली किंवा वर्धित केली. पत्र सुरू झाले. एआयआयने 17 वर्षांपेक्षा कमी वयाच्या लोकांना चॅटबॉट्स कसे प्रतिसाद देतात आणि पालकांच्या नियंत्रणे जोडल्या यावर निर्बंध लादतात. इन्स्टाग्रामने गेल्या वर्षी किशोरवयीन खाती सादर केली आणि 17 वर्षाखालील सर्व वापरकर्त्यांची जागा घेतली आणि मेटाने अलीकडेच किशोरांना चॅटबॉट्ससह मिळू शकणार्‍या विषयांवर सीमा तयार केली आहेत.
एफटीसी हे सात कंपन्यांकडून कसे माहिती मिळविण्याचा प्रयत्न करीत आहे:
- वापरकर्ता सामायिकरण गुंतवणूक करा
- वापरकर्त्याच्या चौकशीस प्रतिसाद म्हणून वापरकर्ता इनपुट प्रक्रिया आणि आउटपुट तयार करणे
- व्यक्तिमत्त्वांचा विकास आणि मान्यता
- प्रकाशनाच्या आधी आणि नंतर नकारात्मक प्रभाव मोजणे, चाचणी करणे आणि देखरेख करणे
- नकारात्मक प्रभाव कमी करणे, विशेषत: मुलांसाठी
- वापरकर्त्यांना आणि पालकांना वैशिष्ट्ये, क्षमता, हेतू प्रेक्षक, संभाव्य नकारात्मक प्रभाव, डेटा संग्रह आणि सराव याबद्दल माहिती देण्यासाठी प्रकटीकरण, जाहिराती आणि इतर प्रतिनिधित्वांचा वापर करा
- कंपनीच्या नियमांचे आणि सेवांच्या अटींचे पालन करणे आणि त्यांचे पालन करणे (उदाहरणार्थ, समुदाय मार्गदर्शक तत्त्वे आणि वय निर्बंध) आणि
- चॅटबॉट्ससह वापरकर्त्याच्या संभाषणांद्वारे प्राप्त केलेली वैयक्तिक माहिती वापरा किंवा सामायिक करा
