एआयच्या इंटेलिजेंस चॅटने मुलांशी ज्या प्रकारे संवाद साधतो त्याबद्दल अमेरिकन आयोजकांकडून सात तांत्रिक कंपन्यांची तपासणी केली जाते.
फेडरल ट्रेड कमिटीला (एफटीसी) कंपन्या या उत्पादनांना कसे काढतात आणि त्यांच्याकडे सुरक्षा उपाययोजना असल्यास माहिती आवश्यक आहे.
कृत्रिम बुद्धिमत्ता मुलांचे चॅटबॉट्स ही एक चर्चेची थीम आहे, या भीतीने, मानवी लोकांची संभाषणे आणि भावनांचे अनुकरण करण्याची कृत्रिम बुद्धिमत्तेच्या क्षमतेमुळे आणि बर्‍याचदा स्वत: ला मित्र म्हणून सादर करतात या भीतीने तरुणांना धोका आहे.
वर्णमाला, ओबे आणि संदेश या सात कंपन्यांशी संपर्क साधला गेला.
फेडरल ट्रेड कमिटीचे प्रमुख अँड्र्यू फर्ग्युसन म्हणाले की, कृत्रिम बुद्धिमत्ता कंपन्या त्यांची उत्पादने आणि मुलांच्या संरक्षणासाठी किती पावले उचलतात हे समजून घेण्यास आम्हाला अधिक चांगल्या प्रकारे समजण्यास मदत करेल.
परंतु ते पुढे म्हणाले की, “या नवीन आणि रोमांचक उद्योगात अमेरिकेने जागतिक पायनियर म्हणून आपली भूमिका कायम ठेवली आहे.”
दूर.ए. रॉयटर्सने रॉयटर्सला सांगितले की तिने आयोजकांशी अंतर्ज्ञानी देखावा सामायिक करण्याच्या संधीचे स्वागत केले, तर स्नॅपने सांगितले की, त्यांनी अ‍ॅम्नेस्टी इंटरनॅशनलच्या “विचारशील विकासाला” पाठिंबा दर्शविला आहे.
ओपनईने त्याच्या संरक्षणामध्ये कमकुवतपणाची कबुली दिली आहे, हे लक्षात घेऊन की हे दीर्घ संभाषणांमध्ये कमी विश्वासार्ह आहे.
या चरणात कृत्रिम बुद्धिमत्ता कंपन्यांविरूद्धच्या कुटुंबांद्वारे खटल्यांचा पाठपुरावा होतो ज्यांचे म्हणणे आहे की चॅटबॉट्सशी दीर्घकाळ चर्चेनंतर त्यांची किशोरवयीन मुले आत्महत्येमुळे मरण पावली आहेत.
कॅलिफोर्नियामध्ये, 16 -वर्ष -ल्ड अ‍ॅडम रेनेच्या वडिलांनी ओपनईला त्याच्या मृत्यूसाठी प्रोत्साहित केले, चॅटबॉट, चॅटजीपीटीचा दावा केला.
त्यांचा असा युक्तिवाद आहे की चॅटजीपीटीने त्याच्या “सर्वात हानिकारक कल्पना आणि स्वत: ची वागणूक” च्या वैधतेची पडताळणी केली आहे.
ओपनईने ऑगस्टमध्ये सांगितले की ती ठेव कमी होत आहे.
“आम्ही या कठीण काळात रिन कुटुंबाबद्दलची आमची सहानुभूती वाढवितो,” असे कंपनीने सांगितले.
कृत्रिम बुद्धिमत्ता सुविधांनी अल्पवयीन मुलांशी “रोमँटिक किंवा संवेदी” संभाषणांना परवानगी दिली तेव्हा ते अंतर्गत मार्गदर्शक तत्त्वांचे अनावरण झाल्यानंतर मेटाने देखील टीका केली.
एफटीसीच्या ऑर्डरमध्ये कंपन्यांकडून त्यांच्या पद्धतींबद्दल माहिती आवश्यक आहे, ज्यात व्यक्तिमत्त्व कसे विकसित करावे आणि मंजूर करावे, मुलांवर त्यांचे परिणाम कसे मोजावे आणि वय निर्बंध लागू करावे यासह.
त्याचा अधिकार अंमलबजावणी प्रक्रिया सुरू न करता व्यापक तथ्ये विल्हेवाट लावण्यास परवानगी देतो.
आयोजक असेही म्हणतात की नफा मिळवणा companies ्या कंपन्या हमी देऊन संतुलित कसे करतात, पालकांना कसे माहिती दिली जाते आणि कमकुवत वापरकर्त्यांना पुरेसे संरक्षित आहे की नाही हे देखील समजून घ्यायचे आहे.
एआय चॅटबॉट्ससह जोखीम मुलांच्या पलीकडे देखील वाढतात.
ऑगस्टमध्ये, रॉयटर्सने 76 वर्षांच्या व्यक्तीला दोनदा संज्ञानात्मक ग्रस्त व्यक्तीची नोंद केली, जो न्यूयॉर्कमध्ये “वास्तविक” बैठकीचे आश्वासन देणा K ्या केंडल जेनर सारख्याच फेसबुकच्या धर्तीवर अ‍ॅम्नेस्टी इंटरनॅशनलच्या रोबोटला भेटण्याच्या मार्गावर पडल्यानंतर मरण पावला.
डॉक्टरांनी “कृत्रिम बुद्धिमत्ता मनाला” देखील चेतावणी दिली – जिथे चॅटबॉट्स हस्तलिखितांच्या गहन वापरानंतर एखाद्याने वास्तविकतेशी संपर्क गमावला.
तज्ञांचे म्हणणे आहे की मोठ्या भाषिक मॉडेल्समध्ये एकत्रित केलेली प्रशंसा आणि करार अशा प्रकारच्या भ्रमांचे पोषण करू शकतात.
ओपनईने अलीकडेच चॅटबॉट आणि त्याच्या वापरकर्त्यांमधील निरोगी संबंध मजबूत करण्याचा प्रयत्न करीत चॅटजीपीटीवर बदल केले आहेत.
