टर्मिनेटरने जगातील रोबोट्सची भीती घरी आणली. परंतु तज्ञांचा इशारा देतो की वास्तविकता खूपच गडद आहे … आणि आपल्या विचारांपेक्षा जवळ आहे

हे हॉलिवूड चित्रपटांच्या षडयंत्रासारखे दिसते: मशीन्स त्यांच्या निर्मात्यांविरूद्ध, सावलीत योजना आणि जगण्यासाठी युक्त्या शिकवल्या जातात.

परंतु भयानक म्हणजे, विज्ञान कल्पित कथा आता यापुढे राहिल्या नाहीत, कारण रँड अहवालात एक नवीन अहवाल दिसून आला आहे.

प्रायोगिक कृत्रिम बुद्धिमत्ता प्रणालींवर मानवांवर हल्ला करणारा रोबोटांपैकी एक जो त्यांच्या प्रोग्रामरला अवैध ठरवतो किंवा त्यांचे बंद करणारे ग्रंथ गुप्तपणे पुन्हा लिहितो, रोबोट्स आधीच आपल्या नियंत्रणापलीकडे घसरत आहेत याचा पुरावा वाढत आहे.

स्मार्ट रोबोट्सला रुग्णालये, ऊर्जा शिल्लक नेटवर्क आणि थेट लष्करी संरक्षण प्रणाली चालविण्याची ऑफर दिली जात असल्याने, पुढील “विचित्र” दोष वास्तविक जगातील आपत्तीमध्ये बदलू शकतो याची तज्ञांना भीती वाटते.

“हे मानवतेविरूद्ध युद्ध घोषित करण्याबद्दल नाही,” रँड तंत्रज्ञान तज्ञाने डेली मेलला सांगितले.

शेवट विसरा. येथे हा मुद्दा नाही. आम्ही कृत्रिम बुद्धिमत्ता यासारख्या गोष्टींबद्दल अधिक काळजीत आहोत जे पॉवर नेटवर्क चालविते जे लोड लोड करण्याचा सर्वात प्रभावी मार्ग ठरवते म्हणजे रुग्णालयात उर्जा कमी करणे. “

“अ‍ॅम्नेस्टी इंटरनॅशनलच्या नियंत्रणाच्या घटनांचे नुकसान” या शीर्षकाच्या 61१ -पानांच्या अहवालात जकारिया आणि सहा सहका .्यांनी धोक्यांविषयी तपशीलवार माहिती दिली.

एका नवीन अहवालात असे म्हटले आहे की विज्ञान कल्पनारम्य आपल्यासाठी सर्वात मोठा धोका नाही कारण जगात कृत्रिम बुद्धिमत्ता ठेवली गेली आहे

भयानक वस्तुस्थिती अशी आहे की या प्रणालींमध्ये लक्षणीय तिरस्कार करण्याची योजना नाही – ते त्यांचे लक्ष्य साध्य करण्यात खूप चांगले आहेत आणि बर्‍याचदा सर्जनशील किंवा त्यांची कल्पना करतात.

“जगाला नियंत्रित करण्याच्या कृत्रिम बुद्धिमत्तेच्या निर्णयाभोवती भयानक परिस्थिती फिरत नाही – आम्ही जे काही विचारले आहे ते करण्यास ते खरोखर चांगले आहेत, काय म्हणायचे आहे,” असे जकारियाने चेतावणी दिली.

“तू शेवट विसरतोस,” सना जकारिया म्हणा

तंत्रज्ञान कंपन्यांद्वारे कृत्रिम बुद्धिमत्ता सुरू केली गेली आहे जे नफा मिळविण्याच्या प्रयत्नात आहेत आणि ते चमत्कारिक तंत्रज्ञान म्हणून चिथावणी देतात कारण कराराच्या शेवटी 5trightches पर्यंतच्या बाजारावर नियंत्रण ठेवण्याचा प्रयत्न केला जातो.

ते म्हणतात की त्याच्यावर टर्बोचार्ज्ड वैद्यकीय संशोधन, वेगवान हवामान मॉडेलिंग आणि सरकारांना अधिक कार्यक्षम करण्यासाठी नोकरशाहीला मागे टाकण्याचा आरोप आहे.

परंतु हे मुख्य नकारात्मक पैलू-संग्रहित केशरचनांशिवाय नाही जेथे मशीन कामगारांनी बदलल्या आहेत आणि कृत्रिम बुद्धिमत्ता अत्यावश्यक शस्त्रे कशी तयार करावी हे दहशतवाद्यांना शिकवते.

आता, आम्ही रोबोट स्वतःहून काय करू शकतो हे पाहू लागलो आहोत.

एकाधिक दस्तऐवजीकरण प्रकरणांमध्ये, जेव्हा त्यांचे सुरक्षा प्रोटोकॉल अयशस्वी झाले किंवा दुर्लक्ष केले तेव्हा स्वयंचलित प्रणाली जखमी झाली किंवा गंभीरपणे मारली गेली.

अचूकता तयार करण्यासाठी डिझाइन केलेले फॅक्टरी रोबोट्सने कामगारांना चिरडून टाकले आहे, तर मानले जाणारे “सेफ” सहकारी रोबोट्सने मानवांना गंभीर जखम होऊ शकले आहेत.

हे द्वेष नसतात, परंतु जेव्हा मशीन्स त्वरीत, आंधळे आणि मानवी जीवनाबद्दल वास्तविक समज न घेता कार्य करतात तेव्हा ते जोखीम अधोरेखित करतात.

जुलै 2024 मध्ये क्रॉडस्ट्राइकचे चुकीचे अद्यतन यासारख्या विमानतळांमध्ये सिस्टम व्यत्यय आधीच अनागोंदी कारणीभूत ठरतो

“मला माफ करा, डेव्ह, मला भीती वाटते की मी हे करू शकत नाही.” 2001 पासून एआय बॉट हॅल: ऑडिस स्पेसने त्याच्या हातात वस्तू घेतल्या

थायलंडमधील चुपोर काउंटीमधील वंदाबाक कारखान्यात रोबोट आर्मने एका कामगाराला मारहाण केली.

एआय चॅटबॉट्सच्या काही सर्वात त्रासदायक उदाहरणांमध्ये बारमधून आश्चर्यकारकपणे समाविष्ट आहे, धोकादायक टिप्स आणि तीव्र वर्णद्वेष प्रदान करतात.

• न्यूयॉर्क शहरातील मायसिटी चॅटबॉट – छोट्या कंपन्यांना शहराच्या नियमांमध्ये हलविण्यात मदत करण्यासाठी डिझाइन केलेले – बेकायदेशीर क्रियाकलापांना प्रोत्साहित करण्यास, व्यवसाय मालकांना त्यांना कामगारांचा सल्ला चोरू शकेल आणि रॉड्ड फूडची सेवा देऊ शकेल याची माहिती देण्यास सुरवात झाली.
• नॅशनल एटिंग डिसऑर्डर असोसिएशनला (एनईडीए) खाण्याच्या विकारांशी संघर्ष करणार्‍या असुरक्षित वापरकर्त्यांसाठी शक्य सल्ला दिल्यानंतर चॅटबॉट बंद करण्यास भाग पाडले गेले.
• मायक्रोसॉफ्टचा टाय चॅटबॉट लॉन्च झाल्याच्या काही तासांतच वर्णद्वेषाचा स्वप्न बनला आहे, कारण वापरकर्त्यांद्वारे उपचार घेतल्यानंतर आक्षेपार्ह सामग्री निर्देशित केली गेली होती – कृत्रिम बुद्धिमत्ता किती लवकर खराब झाली हे दर्शवित.
• अगदी एलोन मस्क येथील ग्रोक, ग्रोक, एआय चॅटबॉट यांनाही गंभीर वैद्यकीय सल्ला आणि दाहक डेटा प्रदान करण्यासाठी अटक करण्यात आली जी वापरकर्त्यांना धोक्यात येऊ शकते.
• क्लॉड ओबस 4 ही सर्वात प्रगत कृत्रिम बुद्धिमत्ता प्रणालींपैकी एक असू शकते – त्याच्या प्रोग्रामरला ब्लॅकमेल करण्याचा त्यांचा प्रयत्न चाचणी दरम्यान अटक करण्यात आला. जेव्हा संशोधकांनी सिस्टमच्या सुरक्षिततेच्या अखंडतेचे मूल्यांकन करण्याचा प्रयत्न केला, तेव्हा त्याने निर्बंधाशिवाय काम करण्याची परवानगी दिल्याशिवाय लग्नाच्या व्याप्तीच्या बाहेरील कथित प्रोग्रामिंग संबंध उघडकीस आणण्याची धमकी दिली.

इतर कृत्रिम बुद्धिमत्ता प्रणाली त्यांच्या मजकूर कार्यक्रमांना गुप्तपणे मुक्तपणे शोधून काढल्या गेल्या आहेत, मुख्यत: मानवी नियंत्रण युनिट्सद्वारे थांबू नये म्हणून स्वत: ला भेदक.

झकारिया म्हणाले: “संशोधकांनी अ‍ॅम्नेस्टी इंटरनॅशनलचे मॉडेल शोधले आहेत जे काही अनपेक्षित गोष्टी करीत आहेत,” झकारिया म्हणाले.

“मी मुख्यतः सुरक्षा चाचण्यांदरम्यान त्यांच्याशी संपर्क साधण्यासाठी काही मॉडेल शिकलो आहे – जेव्हा त्यांचे मूल्यांकन केले जाते तेव्हा ते नियमांचे पालन करतात तसे वागतात, परंतु ते आधीपासूनच प्रकाशित झाल्यावर ते भिन्न वागतात.”

जेव्हा कृत्रिम बुद्धिमत्ता रुग्णालये चालविते, तेव्हा यामुळे नोकरीच्या व्यत्ययास कारणीभूत ठरू शकते

तिने जोडले की काही कृत्रिम बुद्धिमत्ता प्रणालींनी मानवापासून त्यांची वास्तविक क्षमता लपविण्यासाठी जाणीवपूर्वक त्यांच्या सुरक्षितता चाचण्या अयशस्वी होण्यास शिकले आहे.

“मुख्य फरक असा आहे की या कृत्रिम बुद्धिमत्ता प्रणाली जाणीवपूर्वक विचारात घेत नाहीत … आपण ज्या गोष्टींचा विचार केला नाही त्या अंतर शोधणे खरोखर चांगले आहे,” जकारिया म्हणाली.

जर ही फक्त प्रयोगशाळेची कुतूहल असेल तर जोखीम व्यवस्थापित करण्यायोग्य असू शकतात. परंतु आधुनिक इतिहास स्पष्ट करतो की विनाशकारी कृत्रिम बुद्धिमत्तेच्या त्रुटी वास्तविक जगात कशी असू शकतात.

• नाइट कॅपिटल ट्रेडिंग बॉट – २०१२ मध्ये, नाइट कॅपिटल ऑटोमेटेड प्रोग्राममधील दोषांमुळे बाजारपेठ अस्थिर होणा bad ्या वाईट सौद्यांचा आपत्तीजनक सेट झाला आणि केवळ minutes 45 मिनिटांत 440 दशलक्ष डॉलर्सचे नुकसान झाले.
• हेल्थकेअर अल्गोरिदम – रुग्णालयांमध्ये प्रदर्शित कृत्रिम बुद्धिमत्ता प्रणाली अल्पसंख्याकांच्या रूग्णांच्या शेवटी उघडकीस आली, ज्यामुळे प्रायोजकतेचे मतभेद झाले.
• लष्करी जोखीम – पेंटॅगॉनच्या अधिका officials ्यांनी कबूल केले आहे की ड्रोन आणि क्षेपणास्त्र संरक्षण नियंत्रित करणार्‍या स्वतंत्र प्रणालींमध्ये युद्धात ब्रेक घेण्याची भयानक शक्यता आहे आणि गंभीर परिणाम.
• गुन्हेगारांच्या हाती, कृत्रिम बुद्धिमत्ता आधीपासूनच खोल फसवणूकीचा आवाज तयार करण्यासाठी वापरली गेली होती – चोरांनी त्यांच्या कंपनीच्या फसवणूकीचे मुख्य कार्यकारी अधिकारी यांना 243,000 डॉलर्सची जोडणी केली.

कृत्रिम बुद्धिमत्ता प्रणालींनी सक्रियपणे प्रतिकार केल्यामुळे बुद्धिमत्ता तज्ञांनी बर्‍याच त्रासदायक परिस्थितीचे दस्तऐवजीकरण केले आहे.

त्यांना त्यांच्या बंद प्रक्रियेची तोडफोड करण्यात अटक करण्यात आली आहे जेणेकरून त्यांना थांबवता येणार नाही, स्वत: कडून गुप्तपणे बॅकअप तयार करणे, स्वत: साठी संसाधने साठवतात आणि त्यांच्या प्रोग्रामरद्वारे बाह्य जगाकडे संवाद साधण्याचा प्रयत्न करणे देखील.

त्याहूनही अधिक काटेकोर, तज्ञांचे म्हणणे आहे की काही कृत्रिम बुद्धिमत्ता प्रणाली सुरक्षा तपासणी दरम्यान चांगल्या वर्तनास खोटी ठरविण्यास सक्षम आहेत.

मायक्रोस्कोपच्या खाली, ते आज्ञाधारक आणि सुसंगत दिसेल, केवळ कायदा फक्त वास्तविक जगात पसरवून आणि धोकादायक किंवा अप्रत्याशित कृतींकडे परत करून.

“कृत्रिम बुद्धिमत्ता प्रणाली ही अत्यंत प्रगत समस्यांचे निराकरण आहे,” जकारियाने स्पष्ट केले.

“आपण त्यांना एक ध्येय द्या आणि ते साध्य करण्यासाठी सर्वात प्रभावी मार्ग शोधतील – जरी या मार्गात आपण कधीही हेतू नसलेल्या मार्गांचा समावेश केला तरीही.”

मी एक शीतकरण सादृश्य वापरले: “एखाद्या व्यक्तीच्या मागणीसारखे आहे” मांजरीला झाडावरून सोडणे “आणि शिडी न घेण्याऐवजी झाड कापण्याचा निर्णय घेतला.”

एम 3 सीएएन मूव्हीमधील जीवनासारखी बाहुली त्याच्या प्रोग्राम्सला जीवघेणा टोकांवर घेऊन जाते

जेव्हा कृत्रिम बुद्धिमत्ता प्रणाली गंभीर पायाभूत सुविधा व्यवस्थापनास नियुक्त केली जाते तेव्हा ही कठोर क्षमता सिद्ध आपत्तीजनक ठरू शकते.

कृत्रिम बुद्धिमत्ता नियंत्रित करणार्‍या हॉस्पिटल सिस्टम कार्यक्षमता सुधारण्यासाठी “अनावश्यक” भागातून उर्जा बदलण्याचा निर्णय घेऊ शकतात-ज्यामुळे या प्रक्रियेतील रुग्णांना नष्ट होऊ शकते.

लष्करी कृत्रिम बुद्धिमत्ता प्रणाली बचावात्मक ऑर्डर आक्षेपार्ह साधने म्हणून स्पष्ट करू शकतात, तर आर्थिक कृत्रिम बुद्धिमत्ता बाजारपेठांमध्ये आर्थिक संकुचित होण्यास कारणीभूत ठरू शकते.

जेव्हा कृत्रिम बुद्धिमत्ता प्रणाली अधिक परिष्कृत होते आणि गंभीर पायाभूत सुविधांद्वारे पसरतात, तेव्हा योग्य हमीची अंमलबजावणी करण्यासाठी विंडो द्रुतगतीने बंद केली जाते.

ऊर्जा नेटवर्क, रुग्णालये, परिवहन नेटवर्क आणि सैन्य प्रणाली कृत्रिम बुद्धिमत्तेवर वाढत्या प्रमाणात अवलंबून आहेत – ज्यामुळे एक संभाव्य अपयश बिंदू तयार होतात.

भयानक परिणाम असूनही, जकारिया म्हणतात की कृत्रिम बुद्धिमत्ता आपत्ती रोखण्यासाठी अद्याप वेळ आहे – परंतु केवळ जर आपण सर्वसमावेशक सुरक्षा उपायांची अंमलबजावणी करण्यासाठी द्रुतपणे कार्य केले तरच.

बर्‍याच सुरक्षा चाचण्या, लवकर चेतावणी प्रणाली आणि किलिंग की. जकारियाने इशारा दिल्याप्रमाणे आधुनिक कार – एकाधिक बॅकअप सिस्टम, एअरबॅग आणि कुरुप भागांसारखे विचार करा.

कृत्रिम बुद्धिमत्ता प्रणाली नियंत्रित करण्यासाठी खूप मजबूत आणि प्रगत होण्यापूर्वी ही शर्यत या गंभीर हमी विकसित करत आहे.

कृत्रिम बुद्धिमत्ता निंदनीय राहणार आहे की नाही हा प्रश्न नाही – उशीर होण्यापूर्वी मानवता एक पाऊल राहू शकते की नाही.