गेल्या महिन्यात जेव्हा मी पलांटीर सारख्या आर्टिफिशियल इंटेलिजन्स कंपन्यांमधील कामगारांच्या नैतिक संकटाविषयी एक झिप्पी ऑफ-ब्रॉडवे नाटक पाहिलं, तेव्हा मला त्याच्या सूक्ष्मतेने धक्का बसला. हे एका गुप्त प्रकल्पात काढलेल्या चमकदार, विवादित संगणक प्रोग्रामरबद्दल आहे — जर तुम्हाला बिघडवणारे टाळायचे असतील तर येथे वाचणे थांबवा — डेटाबेस ट्रॅकिंग स्थलांतरितांसाठी डिपार्टमेंट ऑफ होमलँड सिक्युरिटी करार जिंकण्यासाठी. एक वेगवान नाट्यमय थ्रिलर, हे नाटक चपखल, भव्य भाषा उत्तम प्रकारे कॅप्चर करते ज्याद्वारे टेक टायटन्स त्यांच्या संभाव्य निरंकुश प्रकल्पांना लोकांसमोर आणि कदाचित स्वतःला न्याय देतात.
“डेटा ही आमच्या काळातील भाषा आहे,” ॲलेक्स नावाचा डेटा ॲनालिटिक्स मॅनेजर म्हणतो, तो पलांटी प्रमुख ॲलेक्स कार्पसारखा आवाज करतो. “आणि सर्व भाषांप्रमाणे, त्याची कथा विजेत्यांनी लिहिली जाईल. त्यामुळे ज्यांची भाषा अस्खलित आहे त्यांनी लोकशाही वाढण्यास मदत केली नाही, तर आम्ही ते दुखावतो. आणि जर आम्ही हा करार जिंकला नाही, तर कोणीतरी कमी अस्खलित असेल.”
मी नेहमीच अशा कलेच्या शोधात असतो जी आपल्या कारकिर्दीची जाणीव करून देते, संकटग्रस्त राजकीय क्षण आणि नाटकाला प्रोत्साहन देते. परंतु गेल्या दोन आठवड्यांमध्ये, वास्तविक-जगातील घटना “डेटा” मधील काही प्लॉट पॉइंट्स प्रतिध्वनी करण्यासाठी आल्या आहेत, जे जवळजवळ भविष्यसूचक वाटू लागले आहेत.
भयानक अल्गोरिदम
त्याचा नायक, मनेश याने भयानक अचूक अंदाज बांधण्याच्या क्षमतेसह एक अल्गोरिदम तयार केला आहे. जेव्हा मी नाटक पाहिलं तेव्हा मला कल्पना नव्हती की असे तंत्रज्ञान खरोखर क्षितिजावर आहे का. परंतु या आठवड्यात, द अटलांटिकने मॅन्टिकवर अहवाल दिला, एक स्टार्टअप ज्याच्या एआय इंजिनने राजकारणापासून क्रीडा ते मनोरंजनापर्यंतच्या डोमेनमधील अनेक सर्वोत्तम मानवी अंदाजकर्त्यांना मागे टाकले.
मला हे देखील आश्चर्य वाटले की एआय टूल्स आपल्यावर आणणारे लोक खरोखरच मनीष आणि त्याचा सहकारी रिले यांचा संताप सामायिक करतात, “मी दररोज येथे येतो आणि मी जगाला आणखी वाईट स्थान बनवत आहे.” मला असे वाटते की AI मध्ये काम करणारे बहुतेक लोक हेच करत आहेत, परंतु त्यांच्यापैकी बऱ्याच जणांना असे वाटते की ते अशा संस्कृतीत बुडलेले आहेत जे त्यांना मानवामध्ये आश्चर्यचकित करणाऱ्या यशाच्या उंबरठ्यावर वीर संशोधक म्हणून ओळखतात — किंवा कदाचित मरणोत्तर — शक्यता. न्यूयॉर्क मॅगझिनच्या “डेटा” च्या पुनरावलोकनात असे म्हटले आहे की, “परिणामांचा विचार न करता – आणि दीर्घकाळ समर्थन न करता कोण कामात इतके पुढे जाते?”
पण गेल्या आठवड्यात, मृणांका शर्मा, अँथ्रोपिकमधील सुरक्षा संशोधक, एका खुल्या पत्राने राजीनामा दिला ज्यामध्ये नाट्य स्क्रिप्टने भरलेले आहे. “जग धोक्यात आहे,” त्याने लिहिले, “सर्वात महत्त्वाच्या गोष्टी बाजूला ठेवण्यासाठी” कामाच्या सतत दबावाचे वर्णन केले. तेव्हापासून ते स्वत:ला “समुदाय निर्माण” आणि कवितेसाठी वाहून घेतील, असे शर्मा म्हणाले. दोन दिवसांनंतर OpenAI च्या संशोधकांपैकी एक, जो हित्झिग यांनी द न्यू यॉर्क टाईम्समध्ये आपला राजीनामा जाहीर केला आणि जाहिरातींनी लोकांना लक्ष्य करण्यासाठी हे साधन अंतरंग माहितीचा वापर कसा करू शकतो याचे वर्णन केले.
मी “डेटा” चे लेखक मॅथ्यू लिबी यांच्याशी संपर्क साधला कारण तो इतका अचूक कसा झाला याची मला उत्सुकता होती आणि त्यांनी थिएटरमध्ये काम करण्यापूर्वी त्यांनी स्टॅनफोर्ड विद्यापीठात संज्ञानात्मक विज्ञानाचा अभ्यास केला होता हे मला कळले. विशेष म्हणजे, त्याच्याकडे सिम्बॉलिक सिस्टीम्समध्ये पदवी आहे, एक आंतरविद्याशाखीय कार्यक्रम ज्यामध्ये संगणक विज्ञान, तत्त्वज्ञान आणि मानसशास्त्र या विषयांचा समावेश आहे. तो म्हणाला की त्याला नेहमीच लेखक व्हायचे होते, परंतु त्याच्याकडे काहीतरी लिहायचे आहे याची त्याला खात्री करायची होती.
आश्चर्याची गोष्ट नाही की, 2017 मध्ये पदवीधर झालेल्या लिबीला एका क्षणी पलांटीर येथे इंटर्नशिपसाठी मुलाखत देताना सिलिकॉन व्हॅलीचे आकर्षण वाटले. ते न मिळाल्याने तो अस्वस्थ झाला. पण जेव्हा त्याला 2017 च्या इंटरसेप्ट कथेमध्ये “डोनाल्ड ट्रम्पच्या निर्वासन मशीनसाठी पॅलेंटी इंजिन पुरवते” असे शीर्षक आले तेव्हा त्याला आश्चर्य वाटले की त्याने तेथे काम केले तर तो काय करेल, अशा प्रकारे “डेटा” जन्माला आला.
कदाचित “डेटा” बद्दलची सर्वात मनोरंजक गोष्ट म्हणजे धोकादायक एआय तयार करणाऱ्या कंपन्या सोडणाऱ्या लोकांबद्दलची अंतर्दृष्टी नाही, परंतु ते सर्वात जास्त काय राहतात आणि ते काय तयार करत आहेत याबद्दल ते स्वतःला सांगतात. “टेक उद्योगातील माझा अनुभव असा आहे की अपरिहार्यतेची हवा नेहमीच असते,” लिबी म्हणाली. “तुम्हाला माहिती आहे, ‘आम्ही यापैकी काहीही थांबवू शकत नाही कारण ते कसेही येत आहे, आणि तुम्हाला ते करणारे बनायचे नाही का?'”
जगाचा शेवट
तंत्रज्ञानामध्ये, एआय हे अद्वितीय आहे की ते तयार करणारे – आणि त्यातून नफा मिळवणारे – वेळोवेळी चेतावणी देतात की ते मानवतेचा नाश करू शकते. सॅम ऑल्टमन यांनी 2015 मध्ये म्हटल्याप्रमाणे, ओपनएआय शोधण्यात मदत करण्याच्या काही काळापूर्वी, “मला वाटते की एआय कदाचित जगाच्या अंताकडे नेईल. परंतु यादरम्यान, गंभीर मशीन लर्निंगसह मोठ्या कंपन्या तयार केल्या जातील.” त्या कोटाची थोडीशी कापलेली आवृत्ती लिबीच्या हस्तलिखितात एपिग्राफ म्हणून दिसते.
एआय दिग्गजांपैकी सर्वात स्पष्टपणे जबाबदार असलेल्या मानववंशशास्त्राचे प्रमुख असलेल्या डारियो अमोदेई यांनी गेल्या महिन्यात संभाव्य AI सर्वनाश बद्दल “तंत्रज्ञान किशोरावस्था” नावाचा एक निबंध प्रकाशित केला. एआय प्रणाली, त्यांनी लिहिले, मानवजातीच्या विरोधात जाऊ शकते किंवा जैविक शस्त्रे विकसित करण्यास मदत करू शकते. त्यांचा वापर डिजिटल पॅनोप्टिकॉन तयार करण्यासाठी केला जाऊ शकतो जो आज अस्तित्वात असलेल्या कोणत्याही गोष्टीपेक्षा अधिक मोठा आहे किंवा त्याचा वापर त्याच्या वापरकर्त्यांसाठी योग्य प्रकारे तयार केलेला प्रचार तयार करण्यासाठी केला जाऊ शकतो की ते ब्रेनवॉशिंग सारखे होईल.
पण अमोदेईने पाहिल्याप्रमाणे, अमेरिका चीनच्या पुढे राहील याची खात्री करण्यापेक्षा या नारकीय शक्यता एआयचा विकास कमी करण्यासाठी किंवा पाळत ठेवणाऱ्या राज्यांच्या हाताबाहेर ठेवण्याचे कमी कारण आहेत. “हुकूमशाहीचा प्रतिकार करण्यासाठी लोकशाही बळकट करण्यासाठी AI चा वापर करणे अर्थपूर्ण आहे,” त्याने लिहिले. “म्हणूनच अँथ्रोपिक युनायटेड स्टेट्स आणि त्याच्या लोकशाही सहयोगी देशांच्या बुद्धिमत्ता आणि संरक्षण समुदायांना AI प्रदान करणे महत्वाचे मानते.” युनायटेड स्टेट्स अद्यापही, कोणत्याही अर्थपूर्ण अर्थाने, तंत्रज्ञान उद्योगाद्वारे समर्थन न करता, एका महत्त्वाकांक्षी हुकूमशहाने राज्य केलेल्या राष्ट्राऐवजी लोकशाहीच्या युतीचा भाग असेल तर आणखी मजबूत होईल.
“डेटा” मधील ॲलेक्स डिपार्टमेंट ऑफ होमलँड सिक्युरिटी कॉन्ट्रॅक्ट्सवर बोली लावण्यासाठी असाच युक्तिवाद करतो. ते म्हणाले, “आम्ही लोकशाहीचे रक्षण करणारे लढवय्ये आहोत.” “चीनकडे आधीच एक स्वयंचलित सामाजिक क्रेडिट प्रणाली आहे जी ते विकसनशील देशांना निर्यात करत आहेत. रशियाकडे माणसाला ज्ञात विचलित करणारी पायाभूत सुविधा सर्वात जास्त लक्ष्यित आहे. ते तिथेच नवनवीन शोध घेत आहेत. जर आपण नवनिर्मिती थांबवली तर? आम्ही आमचे नेतृत्व गमावू.” परदेशात हुकूमशाहीचा धोका घरी डिजिटल हुकूमशाहीची साधने तयार करण्याचा तर्क बनला. वाईट म्हणजे हे फक्त काल्पनिक नाही.
मिशेल गोल्डबर्ग ही न्यूयॉर्क टाइम्सची स्तंभलेखक आहे.
