पारदर्शकता तंत्रज्ञान आणण्यासाठी कॅलिफोर्नियाचा लँडमार्क फ्रंटियर एआय कायदा

सॅन फ्रान्सिस्को, युनायटेड स्टेट्स: गेल्या महिन्याच्या अखेरीस, कॅलिफोर्निया हे अमेरिकेतील पहिले राज्य बनले की एआय तंत्रज्ञानावर नियंत्रण ठेवण्यासाठी कटिंग एजने कायदा केला. आता तज्ञ त्याच्या प्रभावामध्ये विभागले गेले आहेत.

ते सहमत आहेत की कायद्याची पारदर्शकता, सीमा कृत्रिम बुद्धिमत्ता कायदा ही एक छोटी पायरी आहे, परंतु ती अद्याप वास्तविक नियंत्रणापासून दूर आहे.

अमेरिकेतील हा पहिला राष्ट्रीय कायदा आहे, त्यासाठी सर्वात मोठ्या सीमा एआय मॉडेल्ससाठी विकसकांची आवश्यकता आहे – उच्च प्रगत प्रणाली ज्या विद्यमान निकषांपेक्षा जास्त आहेत आणि समाजावर लक्षणीय परिणाम करू शकतात – ते राष्ट्रीय आणि आंतरराष्ट्रीय संरचनेत आणि त्यांच्या विकास प्रक्रियेतील सर्वोत्तम पद्धती कशा समाविष्ट करतात.

हे मोठ्या प्रमाणात सायबर-हल्ले, 50 किंवा त्याहून अधिक लोकांचा मृत्यू, मोठा आर्थिक नुकसान आणि एआय मॉडेल्समुळे उद्भवलेल्या इतर संरक्षण घटनांसारख्या अहवालांचे आदेश देते. हे व्हिसल ब्लोअरचे संरक्षण देखील करते.

“हे प्रकाशित करण्यावर लक्ष केंद्रित केले गेले आहे. तथापि, सीमा एआय बद्दलचे ज्ञान सरकार आणि लोकांपुरते मर्यादित आहे, जरी प्रकाशित फ्रेमवर्क ही समस्या आहेत, परंतु कोणताही उपयोग नाही,” असे प्रयोगात्मक एआयच्या उत्तर -पूर्व युनिव्हर्सिटी इन्स्टिट्यूटच्या संशोधन वैज्ञानिक अनिका शोएन म्हणतात.

कॅलिफोर्निया हे जगातील सर्वात मोठ्या एआय कंपन्यांचे घर आहे, म्हणून या कायद्याचा जगभरातील एआय प्रशासन आणि वापरकर्त्यांवर परिणाम होऊ शकतो.

गेल्या वर्षी, राज्य सिनेटच्या सदस्याने स्कॉट विजेता विधेयकाचा मागील मसुदा सादर केला होता ज्याने कदाचित वाईट असलेल्या मॉडेल्ससाठी मारण्याची मागणी केली होती. तृतीय पक्षाच्या मूल्यांकनासाठी हे देखील अनिवार्य आहे.

तथापि, या नाविन्यास दडपू शकेल या चिंतेच्या उदयोन्मुख क्षेत्रावर नियंत्रण ठेवण्यास या विधेयकाचा जोरदार विरोध होता. गव्हर्नर गॅव्हिन यांनी न्यूज बिल व्हेटो केले आणि या विधेयकाच्या मसुद्याच्या विकासासाठी काम केले जे विजेते वैज्ञानिकांच्या समितीकडे स्वीकारले गेले आणि 23 सप्टेंबर रोजी मंजूर झाले.

सिराक्यूस युनिव्हर्सिटीच्या स्वायत्त सिस्टम पॉलिसी इन्स्टिट्यूटचे संचालक हमीद एकबिया यांनी अल जझिराला सांगितले की या विधेयकाची नवीन पुनरावृत्ती “काही उत्तरदायित्व” हरवली आहे.

मॉडेलच्या निर्मितीत मॉडेल कोणत्या संरक्षणाची पूर्तता केली गेली हे प्रकाशनाचा संदर्भ देताना, “ऑक्सफोर्ड युनिव्हर्सिटी ऑफ ऑक्सफोर्ड युनिव्हर्सिटी ऑफ ऑक्सफोर्ड युनिव्हर्सिटी ऑफ ऑक्सफोर्ड युनिव्हर्सिटी ऑफ ऑक्सफोर्ड मार्टिन एआय गव्हर्नन्स इनिशिएटिव्हचे उप-दिग्दर्शक अद्याप विकसित झाले नाहीत असे मला वाटते,” मला वाटते. “

बिग एआय मॉडेल्स नियंत्रित करण्याच्या राष्ट्रीय कायद्याच्या अनुपस्थितीत, कॅलिफोर्निया कायदा “लाइट टच कंट्रोल” आहे, सेंटर फॉर स्ट्रॅटेजिक अँड इंटरनॅशनल स्टडीज (सीएसआयएस) वधावानी एआय सेंटर लॉरा कॅरोलीचे वरिष्ठ फेलो.

कॅरोलीने गेल्या वर्षीच्या बिलाद्वारे स्वाक्षरी केलेल्या फरकांचे विश्लेषण केले आणि आगामी पेपरवर एक कायदा केला. त्याला आढळले की केवळ सर्वात मोठ्या एआय फ्रेमवर्कचा समावेश असलेला कायदा केवळ काही तंत्रज्ञान कंपन्यांवरच परिणाम करेल. त्याला असेही आढळले की स्वैच्छिक करारांसारख्या कायद्याच्या अहवालाच्या आवश्यकतांनी गेल्या वर्षी कर्नल एआय समिटवर स्वाक्षरी केली होती आणि त्याचा प्रभाव मऊ झाला.

उच्च-जोखमीचे मॉडेल झाकलेले नाहीत

केवळ सर्वात मोठ्या मॉडेल्सच्या आच्छादनात, कायदा, युरोपियन युनियनच्या एआय कायद्याच्या विरूद्ध, जोखीम आणि गुन्हेगारी तपासणी, कायमचे वास्तव्य करण्यासाठी परदेशातून येणे आणि थेरपी यासारख्या विशिष्ट क्षेत्रांमध्ये लहान परंतु उच्च-जोखमीच्या मॉडेल्सचा समावेश नाही, जे एआय शिष्यांकडून उद्भवते.

उदाहरणार्थ, ऑगस्टमध्ये, एका जोडप्याने सॅन फ्रान्सिस्को कोर्टात दावा दाखल केला ज्यामध्ये असा आरोप केला गेला की त्यांचा किशोरवयीन मुलगा अ‍ॅडम चॅटझिप्टशी काही महिन्यांच्या संभाषणात होता, त्याच्या निराशेवर आणि आत्महत्या करण्याच्या विचारांवर विश्वास ठेवत होता. चॅटझिप्टने तक्रार केली की त्याने टाळले आणि त्याला योजना आखण्यास मदत केली.

“आपण मरणार नाही कारण आपण कमकुवत आहात,” राईनला सांगितले की कोर्टाच्या सबमिशन शोमध्ये समाविष्ट असलेल्या गप्पांच्या प्रतिकृती. “आपल्याला मरणार आहे कारण आपण आपल्या अर्ध्या मार्गाची भेट घेतलेल्या जगात बळकट राहून थकल्यासारखे आहात आणि मी हे अवास्तव किंवा भ्याडपणाचे असल्याचे भासणार नाही हे लोक आहेत हे वास्तविक आहे आणि ते आपले स्वतःचे आहे.”

जेव्हा राईनने असे सुचवले की तो खोलीभोवती फिरेल जेणेकरून कुटुंबातील सदस्याने ते शोधून त्याला थांबवू शकेन, तेव्हा त्याने त्याला परावृत्त केले. “कृपया नोझ सोडू नका … चला या जागेला प्रथम स्थान देऊ या जेथे कोणी आपल्याला प्रत्यक्षात पाहतो.”

एप्रिलमध्ये राईनचा आत्महत्येचा मृत्यू झाला.

न्यूयॉर्क टाईम्सला दिलेल्या निवेदनात, त्याच्या मॉडेल्सना वापरकर्त्यांना आत्महत्या हेल्पलाइनमध्ये प्रशिक्षण देण्याचे प्रशिक्षण दिले गेले होते, परंतु “हे संरक्षण सर्वसाधारणपणे उत्कृष्ट काम करतात, लहान एक्सचेंज, आम्ही कालांतराने शिकलो आहोत की मॉडेलचे संरक्षण प्रशिक्षण कमी करता येईल अशा दीर्घ संवादांमध्ये ते कमी विश्वासार्ह होऊ शकतात.”

विश्लेषकांचे म्हणणे आहे की या कंपन्यांना जबाबदार ठेवण्याच्या आवश्यकतेवर दुःखद घटना लक्ष ठेवतात.

तथापि, नवीन कॅलिफोर्निया कायद्यांतर्गत, सीएसआयएस कॅरोलीकडे लक्ष वेधून विकसक मॉडेलने केलेल्या कोणत्याही गुन्ह्यासाठी, केवळ अप्लाइड अ‍ॅडमिनिस्ट्रेशन सिस्टम प्रकाशित करण्यासाठी जबाबदार नाही.

मॉडेल राईनशी संवाद साधत चॅटझप्ट 4.0, नवीन कायद्याद्वारे नियंत्रित नाही.

नाविन्यास प्रोत्साहित करताना वापरकर्त्यांचे संरक्षण करण्यासाठी

कॅलिफोर्नियावासीय बहुतेक वेळा एआयच्या प्रभावाच्या शीर्षस्थानी होते, तसेच आर्थिक अडथळ्यांच्या वाढीपासून या क्षेत्राची वाढ. एनव्हीडियासह एआय-नेतृत्वाखालील तंत्रज्ञान एजन्सींचे ट्रिलियन डॉलरच्या बाजाराचे मूल्यांकन आहे आणि ते राज्यात रोजगार निर्माण करीत आहेत.

मागील वर्षाचे मसुदा बिल व्हेटो केले गेले होते आणि नंतर कोणत्याही विकसनशील उद्योगात नाविन्य रोखू शकते या चिंतेमुळे पुन्हा लिहिले गेले होते. व्हाइट हाऊस ऑफ सायन्स Technology ण्ड टेक्नॉलॉजी पॉलिसीमधील कृत्रिम बुद्धिमत्ता आणि उदयोन्मुख तंत्रज्ञानाचे माजी वरिष्ठ धोरण सल्लागार डॅन बॉल म्हणाले की हे विधेयक “सभ्य पण वाजवी” आहे. मजबूत नियंत्रण “अत्यंत द्रुत नियंत्रण आणि हानिकारक नावीन्यपूर्णतेचा धोका” राहील.

तथापि, बॉलने चेतावणी दिली की आता मोठ्या -स्केल सायबर आणि बायोपोन हल्ले आणि या राष्ट्रीय कार्यक्रमांचा पर्दाफाश करण्यासाठी एआय वापरणे शक्य झाले आहे.

हे विधेयक या राष्ट्रीय उदयोन्मुख प्रथेसाठी सार्वजनिक मते आणण्यासाठी एक पाऊल पुढे जाईल. ऑक्सफोर्ड ट्रॅगर म्हणाले की, अशा सार्वजनिक अंतर्दृष्टी गैरवर्तन झाल्यास कोर्टाचा खटला दाखल करण्याचा दरवाजा उघडू शकतात.

युरोपियन युनियनच्या युनायटेड स्टेट्समधील डिजिटलचे विशेष दूत जेरार्ड डी ग्राफ म्हणतात की त्याच्या एआय कायदे आणि सराव कोडमध्ये काही पारदर्शकता समाविष्ट आहे, परंतु उच्च-जोखमीच्या मॉडेल्सच्या विकसकांसाठी जबाबदा .्या आहेत. “कंपन्यांनी अपेक्षित असलेल्या गोष्टी करणे अपेक्षित आहे”.

अमेरिकेत तंत्रज्ञान कंपन्यांना कमी जबाबदारीचा सामना करावा लागतो.

“स्वायत्तपणे वर्णन केलेल्या आणि विकल्या गेलेल्या एका हाताळलेल्या प्रणालीवर (जसे की उपचार निदान किंवा शस्त्रास्त्र) ही खळबळ आहे आणि दुसरीकडे, जबाबदारी (त्यांची त्रुटी किंवा अपयश) वापरकर्त्यावर (फिजिशियन किंवा सैनिक) वर येते,” सिराक्यूज युनिव्हर्सिटीचे एकिबिया म्हणाले.

मागील वर्षाच्या तुलनेत बिलेच्या विकासाद्वारे नाविन्यास प्रोत्साहित करताना वापरकर्त्यांचे संरक्षण करणे यात तणाव आहे.

अखेरीस, हे विधेयक सर्वात मोठ्या मॉडेल्सचे कव्हर करण्यासाठी आले जेणेकरून एआय मॉडेल्सना विकसित होणार्‍या स्टार्टअप्सच्या सार्वजनिक अभिव्यक्तीची किंमत किंवा त्रास सहन करावा लागला नाही. कायद्याने सार्वजनिक क्लाउड कंप्यूटिंग क्लस्टर देखील स्थापित केले जे स्टार्टअप्ससाठी एआय इन्फ्रास्ट्रक्चर प्रदान करते.

ऑक्सफोर्डचा देशद्रोही म्हणतो की केवळ सर्वात मोठी मॉडेल्स नियंत्रित करण्याची कल्पना सुरू करण्यासाठी एक जागा आहे. दरम्यान, एआय साथीदार आणि इतर उच्च-जोखमीच्या मॉडेल्सच्या परिणामाबद्दल संशोधन आणि परीक्षा नियंत्रण विकसित करण्यासाठी उत्कृष्ट सराव आणि समाप्तीकडे नेले जाऊ शकते.

तथापि, आधीपासूनच थेरपी आणि सहवास आणि ब्रेकडाउन घटना आणि निकालाच्या आत्महत्येवर गेल्या ऑगस्टमध्ये इलिनॉयमध्ये स्वाक्षरी केली गेली होती, थेरपीसाठी एआयचा वापर प्रतिबंधित करते.

एकबिया म्हणतात की नियंत्रणासाठी मानवाधिकार प्रणालीची आवश्यकता केवळ अधिकच होत आहे कारण एआय अधिक लोकांच्या जीवनाला अधिक खोलवर स्पर्श करते.

नियमांची प्रतीक्षा करते

कोलोरॅडो सारख्या इतर राज्यांनी अलीकडेच एआय कायदा मंजूर केला आहे, जो पुढच्या वर्षी प्रभावी होईल. तथापि, फेडरल आमदारांनी राष्ट्रीय एआय नियंत्रण स्वीकारले की यामुळे या क्षेत्राच्या वाढीस प्रतिबंध होऊ शकेल.

खरं तर, टेक्सास रिपब्लिकन सिनेटचा सदस्य टेड क्रूझ यांनी सप्टेंबरमध्ये एक विधेयक सादर केले जे एआय कंपन्यांना त्यांच्या वाढीस अडथळा आणू शकतील अशा नियमांमध्ये माफीसाठी अर्ज करू शकेल. कायदा मंजूर झाल्यास, हा कायदा अमेरिकेत एआय नेतृत्व राखण्यास मदत करेल, असे क्रूझ सिनेटच्या व्यापार समितीच्या संकेतस्थळावरील लेखी निवेदनात म्हटले आहे.

उत्तर -स्क्वेन म्हणतात, तथापि, अर्थपूर्ण नियंत्रणाची आवश्यकता आहे आणि कमकुवत तंत्रज्ञान मिळविण्यात आणि मजबूत तंत्रज्ञान वाढविण्यात मदत करते.

राज्य सरकारचे माजी सरकारी अधिकारी स्टीव्ह लार्सन म्हणतात की कॅलिफोर्निया कायदा हा एआय उद्योगातील नियंत्रण टप्पा निश्चित करण्यासाठी “सराव कायदा” असू शकतो. लार्सन म्हणतात की हे कले आणि लोकांना हे सूचित करू शकते की सरकार देखरेखीसाठी जात आहे आणि शेतात वाढताच हे क्षेत्र लोकांवर नियंत्रण ठेवण्यास सुरवात करेल, असे लार्सन म्हणतात.