चॅटजीपीटी वापरकर्त्यांना एआय-सक्षम पॉर्न तयार करण्यास अनुमती देणारे नियोजित अपडेट रोल आउट करण्याबद्दल तिने चिंता व्यक्त केल्यानंतर OpenAI ने तिच्या शीर्ष अंतर्गत समीक्षकांपैकी एकाला काढून टाकले आहे.
रयान बर्मेस्टर यांना जानेवारीच्या सुरुवातीला उत्पादन धोरणाच्या उपाध्यक्षपदावरून काढून टाकण्यात आले होते, अनुपस्थितीच्या रजेनंतर, कंपनीत कामावर घेण्याबाबत परिचित असलेल्या लोकांनी वॉल स्ट्रीट जर्नलला सांगितले.
2024 च्या मध्यात तिने OpenAI मध्ये काम करण्यास सुरुवात केली आणि Meta कडून टेक कंपन्यांना आतून बदलण्याचा प्रयत्न करणाऱ्यांच्या लाटेचा भाग म्हणून काम करण्यास सुरुवात केली आणि कंपनीत महिलांसाठी एक पीअर मेंटॉरशिप प्रोग्राम सुरू केला, असे या प्रकरणाशी परिचित असलेल्या लोकांनी सांगितले.
एका निवेदनात, कंपनीच्या प्रवक्त्याने म्हटले आहे की तिने “ओपनएआयमध्ये तिच्या काळात मौल्यवान योगदान दिले आहे आणि कंपनीत काम करताना तिने उपस्थित केलेल्या कोणत्याही समस्येशी तिचे प्रस्थान संबंधित नव्हते.”
त्याऐवजी, तिने दावा केला की तिची समाप्ती बियरमेस्टरने एका सहकाऱ्याविरुद्ध लैंगिक भेदभावाशी संबंधित होती, ज्याचे तिने खंडन केले.
“मी कोणाशीही भेदभाव केला हा आरोप पूर्णपणे खोटा आहे,” तिने वृत्तपत्राला सांगितले.
OpenAI मध्ये, Beiermeister ने उत्पादन धोरण कार्यसंघाचे नेतृत्व केले, जे लोक कंपनीची उत्पादने कशी वापरतात आणि त्या धोरणांची अंमलबजावणी करण्यासाठी यंत्रणा कशी डिझाइन करतात यासाठी नियम विकसित करतात.
कंपनीच्या “प्रौढ मोड” च्या नियोजित लॉन्चच्या आधी त्याची समाप्ती झाली, जे वापरकर्त्यांना ChatGPT मध्ये AI तयार करण्यास आणि X-रेट केलेल्या संभाषणांना अनुमती देईल.
वॉल स्ट्रीट जर्नलच्या म्हणण्यानुसार, जानेवारीच्या सुरुवातीस ओपनएआयच्या उत्पादन धोरणाच्या उपाध्यक्षपदावरून रायन बर्मिस्टरला तिच्या पदावरून काढून टाकण्यात आले.
कंपनीच्या नियोजित “प्रौढ मोड” लाँच करण्याबद्दल चिंता व्यक्त केली आहे, जे वापरकर्त्यांना ChatGPT मध्ये AI तयार करण्यास आणि X-रेट केलेल्या संभाषणांना अनुमती देईल.
सीईओ सॅम ऑल्टमॅन यांनी प्रथम ऑक्टोबरमध्ये अद्यतनाची घोषणा केली आणि ते या वर्षाच्या पहिल्या तिमाहीत पदार्पण करणार आहे.
“मानसिक आरोग्याच्या समस्यांबाबत आम्ही सावध आहोत याची खात्री करण्यासाठी आम्ही ChatGPT अतिशय प्रतिबंधित केले आहे. आम्हाला जाणवले की यामुळे मानसिक आरोग्य समस्या नसलेल्या बऱ्याच वापरकर्त्यांसाठी ते कमी उपयुक्त/आनंददायक झाले आहे, परंतु समस्येची तीव्रता लक्षात घेता, आम्हाला हे दुरुस्त करायचे आहे,” ऑल्टमन यांनी त्यांच्या घोषणेमध्ये म्हटले.
“आता आम्ही गंभीर मानसिक आरोग्य समस्या कमी करू शकतो आणि नवीन साधने आहेत, आम्ही बर्याच बाबतीत सुरक्षितपणे निर्बंध कमी करण्यास सक्षम होऊ.”
ते पुढे म्हणाले की कंपनी “अधिक पूर्ण वय वर्गीकरण आणि आमच्या ‘प्रौढ वापरकर्त्यांना प्रौढांप्रमाणे वागवा’ या तत्त्वाचा एक भाग म्हणून, आम्ही सत्यापित प्रौढ इरोटिका सारख्या अधिक गोष्टींना अनुमती देऊ.”
परंतु बर्मीस्टरने तिला काढून टाकण्यापूर्वी सहकर्मचाऱ्यांना सांगितले की तिने प्रौढ मोडच्या कल्पनेला विरोध केला आणि त्याचा वापरकर्त्यांवर हानिकारक परिणाम होईल अशी भीती वाटते, असे संभाषणांशी परिचित असलेल्या लोकांनी वृत्तपत्राला सांगितले.
तिने सांगितले की बाल शोषण सामग्री थांबवण्यासाठी OpenAI कडे पुरेशी मजबूत यंत्रणा आहे असे तिला वाटत नाही आणि कंपनी किशोरवयीन वापरकर्त्यांकडून प्रौढ सामग्रीला पुरेशा प्रमाणात ब्लॉक करू शकत नाही याबद्दल चिंता व्यक्त केली.
ओपनएआयच्या “वेलबीइंग अँड एआय” सल्लागार मंडळाचे सदस्य नियमितपणे प्रौढ स्थितीला विरोध करत आणि कार्यकारी अधिकाऱ्यांना त्यावर पुनर्विचार करण्यास उद्युक्त करत, कंपनीतील इतरांनीही अशाच प्रकारच्या चिंता व्यक्त केल्या आहेत, सूत्रांनी सांगितले.
लोक चॅटबॉट्सवर अस्वास्थ्यकर अटॅचमेंट कसे बनवतात याचा अभ्यास करणाऱ्या कंपनीतील संशोधकांनीही नवीन वैशिष्ट्याविरुद्ध बोलले, लैंगिक सामग्रीला परवानगी दिल्याने त्या भावना तीव्र होऊ शकतात अशी चिंता व्यक्त केली.
OpenAI CEO सॅम ऑल्टमन (चित्रात) यांनी ऑक्टोबरमध्ये घोषणा केली की ChatGPT “प्रौढ वापरकर्त्यांना प्रौढांप्रमाणे वागणूक” या तत्त्वाचा भाग म्हणून AI-व्युत्पन्न एरोटिका तयार करण्यास अनुमती देईल.
तथापि, OpenAI च्या काही स्पर्धकांनी आधीच प्रौढ सामग्रीसाठी परवानगी दिली आहे, एलोन मस्कच्या xAI ने उन्हाळ्यात एक सेक्सी चॅटबॉट सादर केला आहे.
अनी हा गोथिक, ॲनिम-शैलीचा देखावा असलेली एक सोनेरी-केसांची AI सहचर आहे.
तिला 22-वर्षीय मुलीप्रमाणे वागण्यासाठी आणि अधूनमधून वापरकर्त्यांसोबत फ्लर्टीटिंगमध्ये गुंतण्यासाठी प्रोग्राम केलेले आहे.
वापरकर्त्यांनी नोंदवले की चॅटबॉटची NSFW स्थिती होती — “कामासाठी सुरक्षित नाही” — एकदा Ani त्याच्या परस्परसंवादात “लेव्हल थ्री” वर पोहोचला.
या बिंदूनंतर, चॅटबॉटमध्ये लज्जतदार अंतर्वस्त्रांमध्ये पोझ देण्याचा अतिरिक्त पर्याय आहे.
तथापि, त्याच वेळी, मस्कला त्याच्या चॅटबॉट ग्रोकला अद्ययावत करण्यास भाग पाडले गेले जे त्याच्या डीपफेक तंत्राच्या निर्मितीवर झालेल्या प्रतिक्रियांमुळे लोकांचे कपडे उघडण्यापासून दूर होते.
महिलांनी सांगितले की, प्रत्येकाने पाहण्यासाठी त्यांच्या इच्छेविरुद्ध तडजोड करणारी प्रतिमा तयार करण्याच्या AI च्या क्षमतेमुळे त्यांना उल्लंघन झाल्याचे वाटले.
“आम्ही ग्रोकच्या खात्याला बिकिनीसारखे उघड कपडे परिधान केलेल्या वास्तविक लोकांचे फोटो संपादित करण्यास परवानगी देण्यापासून रोखण्यासाठी तांत्रिक उपाय लागू केले आहेत,” X ने गेल्या महिन्यात जाहीर केले.
“हे निर्बंध सशुल्क सदस्यांसह सर्व वापरकर्त्यांना लागू होते.”
ग्रोकचा वापर स्त्रियांचे आणि अगदी लहान मुलांचे कपडे त्यांच्या संमतीशिवाय काढण्यासाठी केला जात असल्याच्या ट्रेंडबद्दल मोठ्या प्रमाणावर घृणा निर्माण झाली आहे.
UK च्या इंटरनेट नियामक, माहिती आयुक्त कार्यालय (ICO), ने आता XAI ची Grok च्या वैयक्तिक माहितीचा “हानीकारक लैंगिक प्रतिमा आणि व्हिडिओ सामग्री तयार करण्यासाठी” वापर केल्याबद्दल चौकशी सुरू केली आहे.
ते जोडले: “अशा सामग्रीच्या निर्मिती आणि वितरणाचा अहवाल देणे यूके डेटा संरक्षण कायद्यांतर्गत गंभीर चिंता निर्माण करते आणि लोकांसाठी संभाव्य लक्षणीय हानी होण्याचा धोका दर्शवते.”
त्याच्या तपासणीचा एक भाग म्हणून, ICO म्हणते की ते गैरवापरासाठी वापरण्यापासून रोखण्यासाठी Grok च्या डिझाइनमध्ये तयार केलेले सुरक्षा उपाय आहेत का ते तपासेल.
यूके नियामक ऑफकॉम देखील X ने साइटवर डीपफेक सामायिक करण्याची परवानगी देऊन देशाच्या ऑनलाइन सुरक्षा कायद्याचे उल्लंघन केले आहे की नाही याचे मूल्यांकन करणे सुरू ठेवत आहे आणि युरोपियन कमिशन चॅटबॉटमध्ये स्वतःची तपासणी करत आहे.
डेली मेलने टिप्पणीसाठी ओपनएआयशी संपर्क साधला आहे.
