आजकाल व्हिडिओ गेममध्ये चॅटचा समावेश होतो आणि जेव्हा लोकांना चॅट करण्याची संधी दिली जाते, तेव्हा ते नेहमी G-रेट केलेले ठेवत नाहीत. लोकप्रिय ऑनलाइन गेम क्रिएशन प्लॅटफॉर्म रोब्लॉक्स, इतर अनेकांसह, अनेक वर्षांपासून चॅट्स सेन्सॉर करण्यासाठी सोप्या उपायांचा वापर करत आहे. गेम फक्त आक्षेपार्ह शब्द काढून टाकेल आणि त्यास पाउंड चिन्हांच्या संचाने पुनर्स्थित करेल. आता, रॉब्लॉक्स आक्षेपार्ह वाक्यांशाचा शब्द काढण्यासाठी कृत्रिम बुद्धिमत्तेचा वापर करत आहे.
“समस्याग्रस्त मजकूर (वापरकर्त्यांना ##### म्हणून दृश्यमान) अवरोधित करण्यासाठी AI फिल्टर वापरणे हे नेहमीच सुरक्षिततेसाठी आणि वाढत्या सभ्यतेच्या आमच्या दृष्टीकोनात केंद्रस्थानी राहिले आहे,” राजीव भाटिया, रॉब्लॉक्समधील वापरकर्ता आणि उत्पादन शोधाचे उपाध्यक्ष, ब्लॉग पोस्टमध्ये म्हणाले. “आज, आम्ही अनुभवादरम्यान मजकूर चॅट सिव्हिल ठेवण्यासाठी एक अतिरिक्त वैशिष्ट्य जोडत आहोत: आम्ही अपवित्रतेपासून सुरुवात करून, संदेश स्वयंचलितपणे पुन्हा शब्दबद्ध करण्यासाठी AI चा फायदा घेत आहोत.”
जेव्हा एखादा खेळाडू चॅटमध्ये समस्याप्रधान शब्द वापरतो, तेव्हा AI चॅटमध्ये पोस्ट करण्यापूर्वी तो संदेश काढून टाकण्यासाठी पुन्हा लिहितो, अशा प्रकारे पाउंड चिन्हे काढून टाकतात. तर, “अरे शिट, तू ठीक आहेस का?” ते “तुम्ही ठीक आहात का?” “फास्टर” हा शब्द “फास्टर” होतो. (होय, जरी नंतरचे हे स्पष्ट करत नसले तरी, रॉब्लॉक्सला माहित आहे की F चा अर्थ काय आहे.)
चॅटमधील प्रत्येकाला दिसेल की एआयने संदेशात सुधारणा केली आहे, परंतु केवळ पाठवणाऱ्यालाच चॅटमध्ये अयोग्य भाषा वापरल्याबद्दल चेतावणी मिळेल.
बदल दोन महिन्यांनी येतो Roblox ने चेहऱ्याची ओळख पटवण्याचे वैशिष्ट्य सादर केले आहेजे मुले आणि प्रौढांमधील संपर्क मर्यादित करण्यासाठी वापरकर्त्यांना वयोगटांमध्ये वर्गीकृत करते. कायदेशीर कारवाई थांबली नाही. नेब्रास्काने बुधवारी टेक्सास, फ्लोरिडा, लुईझियाना, केंटकी आणि अनेक नगरपालिकांमध्ये सामील होऊन रॉब्लॉक्सच्या कथित बाल सुरक्षा अपयशांना लक्ष्य करून खटला दाखल केला.
वाईट शब्द सबमिट करणाऱ्या वापरकर्त्यांना सूचित केले जाईल की त्यांचे वाक्य AI द्वारे पुन्हा लिहिले गेले आहे आणि नियमांचे पालन न करण्याचा इशारा दिला आहे.
भाषा जसजशी विकसित होते
लोक नेहमीच नवीन अपशब्द वापरतात आणि बहुतेक ते कठोर किंवा हानिकारक मानले जाऊ शकतात. कंपनीचे म्हणणे आहे की विद्यमान भाषा अवरोधित करण्यात मदत करण्यासाठी AI ला मोठ्या मॉडेल आणि इन-गेम चॅट नमुन्यांवर आधारित “विशेष AI मॉडेल्सच्या संच” वर प्रशिक्षण दिले जात आहे. नवीन अपभाषा म्हणजे जेव्हा एआय प्रणाली नवीन शब्द किंवा वाक्यांश खरोखर वाईट आहे की नाही हे निर्धारित करू शकत नाही, ते मोठ्या, अधिक प्रशिक्षित एआय मॉडेलकडे पाठवते, जे नंतर संदर्भावरून त्याचा अर्थ काढू शकते.
जे खेळाडू वारंवार नवीन प्रणालीला अडथळा आणण्याचा प्रयत्न करतात किंवा बंदी घातलेले शब्द वापरणे सुरू ठेवतात ते सामान्यतः गेमच्या समुदाय मानक नियमांनुसार शिस्तबद्ध असतील.
नवीन प्रणाली अजूनही चुकीची सकारात्मकता निर्माण करू शकते आणि नवीन भाषा शिकण्यासाठी वेळ घेऊ शकते, परंतु रोब्लॉक्सला आशा आहे की ते बहुतेक वेळा तसे करेल.
“आमचे प्रयोग दाखवतात की या एकत्रित पध्दतीने आमच्या फिल्टरमध्ये लक्षणीय सुधारणा झाली आहे,” भाटिया म्हणाले. “फिल्टर्स आता लीट-स्पीक चांगल्या प्रकारे ओळखू शकतात, अक्षरे संख्या किंवा चिन्हांसह बदलू शकतात आणि आमच्या फिल्टरला बायपास करण्याचा अधिक अत्याधुनिक प्रयत्न करू शकतात.”
