हा लेख व्हेंचरबीटच्या विशेष संख्येचा एक भाग आहे, “अॅम्नेस्टी इंटरनेशनलची खरी किंमत: कामगिरी, कार्यक्षमता आणि मोठ्या प्रमाणात गुंतवणूक.” या विशेष क्रमांकाचे अधिक वाचा.
कृत्रिम बुद्धिमत्ता हा आधुनिक कंपन्यांचा पवित्र कप बनला आहे. मग ते ग्राहक सेवा असो किंवा पाइपलाइनची देखभाल यासारखी काहीतरी असो, प्रत्येक क्षेत्रातील संस्था आता कृत्रिम बुद्धिमत्ता तंत्राची अंमलबजावणी करीत आहेत – आधारापासून व्हीएलए पर्यंत – गोष्टी अधिक कार्यक्षम करण्यासाठी. ध्येय स्पष्ट आणि थेट आहे: परिणाम अधिक कार्यक्षमतेने प्रदान करण्यासाठी आणि एकाच वेळी पैसे आणि संसाधने वाचविण्यासाठी कार्ये स्वयंचलित करणे.
तथापि, पायलटमधून उत्पादनाच्या टप्प्यात या प्रकल्पांच्या हस्तांतरणानंतर, संघांना त्यांनी योजना आखली नाही असा अडथळा आणला: ढगांच्या किंमती ज्यांचे मार्जिन कमी झाले. स्टिकर्सचा धक्का इतका वाईट आहे की मला पूर्वी जे वाटले ते नाविन्यपूर्ण करण्याचा सर्वात वेगवान मार्ग आहे आणि स्पर्धात्मक किनार अर्थसंकल्पातील एक अनावश्यक छिद्र बनतो – कोणत्याही वेळी.
हे सीआयओएसला सामान्य आर्किटेक्चरपासून ते प्रकाशन मॉडेलपर्यंत – आर्थिक आणि ऑपरेशनल पैलूंचे नियंत्रण पुनर्संचयित करण्यासाठी प्रत्येक गोष्टीवर पुनर्विचार करण्यास कॉल करते. कधीकधी ते सुरवातीपासून सुरू होणार्या प्रकल्पांना पूर्णपणे बंद करतात.
परंतु हे सत्य आहे: ढग खर्च असह्य पातळीवर घेऊ शकतात, परंतु ते वाईट नाहीत. कोणत्याही मार्गाने जाणे (कामाचे ओझे) निवडण्यासाठी आपल्याला फक्त वाहनांचा प्रकार (अॅम्नेस्टी इंटरनॅशनल इन्फ्रास्ट्रक्चर) समजून घ्यावा लागेल.
क्लाऊडची कहाणी – जिथे आपण काम करता
ढग सार्वजनिक वाहतुकीस (आपल्या सबवे आणि बस) सारखेच आहे. आपण एक साधे भाडे मॉडेल मिळवू शकता आणि जीपीयू समकक्षांपासून ते विविध भौगोलिक प्रदेशांमध्ये जलद स्केलिंगपर्यंत – आपल्याला आपल्या गंतव्यस्थानावर नेण्यासाठी, सर्व कमीतकमी काम आणि तयारीसह त्वरित आपल्याला सर्व संसाधने देते.
सेवा फॉर्ममध्ये जलद आणि सुलभ प्रवेश एक गुळगुळीत प्रारंभ सुनिश्चित करते आणि विशेष ग्राफिक्स प्रोसेसिंग युनिट्स मिळविण्याच्या प्रचंड भांडवलशाही खर्च न करता प्रकल्प जमिनीपासून दूर करण्याचा आणि द्रुत अनुभव घेण्याचा मार्ग मोकळा करतो.
सुरुवातीच्या टप्प्यातील बर्याच स्टार्टअप्सना असे आढळले आहे की हे मॉडेल फायदेशीर आहे कारण त्यास इतर कोणत्याही गोष्टीपेक्षा वेगवान शिफ्टची आवश्यकता आहे, विशेषत: जेव्हा ते अद्याप मॉडेलचे स्वरूप सत्यापित करतात आणि उत्पादन बाजाराची योग्यता निर्धारित करतात.
) एआयच्या ऑडिओ उत्पादनाचे भाषण भाषण भाषणात केले जाते, व्हेंचरबीट सांगा.
“सहजता” ची किंमत
सुरुवातीच्या अवस्थेत ढग पूर्णपणे तार्किक असला तरी, प्रकल्प चाचणीतून फिरत असल्याने पायाभूत सुविधा गणित अंधकारमय होते आणि वास्तविक जगातील स्टोरेज युनिट्सचे आरोग्य तपासते. कामाच्या ओझ्याचा आकार बिले क्रूर बनवितो – त्या प्रमाणात रात्रभर किंमती 1000 % पेक्षा जास्त वाढू शकतात.
हे विशेषतः तर्कसंगततेच्या बाबतीत खरे आहे, जे सेवेची वेळ सुनिश्चित करण्यासाठी केवळ 24/7 चालवण्याची गरज नाही परंतु ग्राहकांच्या विनंतीसह देखील.
बर्याच प्रसंगी, सरीन स्पष्ट करतात की जेव्हा इतर ग्राहक जीपीयूला विचारतात तेव्हा तर्क करण्याच्या मागणीचे उत्परिवर्तन, जे संसाधनांसाठी स्पर्धा वाढवते. अशा परिस्थितीत, हा फरक एकतर त्यांना आवश्यक असलेल्या गोष्टी मिळतो याची खात्री करण्यासाठी राखीव क्षमता राखते-ज्यामुळे जीपीयूच्या वेळेस पीक-किंवा प्रगतीच्या वेळेचा त्रास होण्याशिवाय इतर काही तासांत निष्क्रियता ठेवण्याची वेळ येते, ज्यामुळे मोहिमेच्या अनुभवावर परिणाम होतो.
इझी ऑडिट एआयचे मुख्य कार्यकारी अधिकारी ख्रिश्चन खुरी यांनी या अनुमानाचे नवीन “क्लाउड टॅक्स” म्हणून वर्णन केले, त्यांनी व्हेंचरबीटला सांगितले की त्यांनी केवळ एका महिन्यातून एका महिन्यात $ 5,000 ते, 000 50,000 या कंपन्या पाहिल्या आहेत.
हे देखील लक्षात घ्यावे की एलएलएमचा समावेश असलेल्या अनुमानांच्या ओझ्यामुळे, विशिष्ट प्रतीकावरील किंमतीसह, सर्वात तीव्र किंमतीत वाढ होऊ शकते. हे असे आहे कारण ही मॉडेल्स विशिष्ट नाहीत आणि दीर्घकालीन कार्ये (मोठ्या संदर्भातील विंडोजसह) व्यवहार करताना भिन्न आउटपुट व्युत्पन्न करू शकतात. सतत अद्यतनांसह, एलएलएमच्या किंमती किंवा नियंत्रणाचा अंदाज करणे कठीण आहे.
या मॉडेल्सचे प्रशिक्षण, त्याच्या भागासाठी, एक “स्फोट” (गटांमध्ये उद्भवते) आहे, जे कॅप्चर करण्यासाठी क्षमतेसाठी जागा सोडते. तथापि, या प्रकरणांमध्ये, विशेषत: स्पर्धेची वाढती शक्ती काढून टाकल्यानंतर, निष्क्रिय ग्राफिक्स प्रोसेसिंग युनिटच्या काळापासून संस्थांना मोठी बिले असू शकतात, जी अत्यधिक नोंदणीमुळे होते.
“क्लाउड प्लॅटफॉर्मवरील प्रशिक्षण क्रेडिट्स महाग आहेत आणि वेगवान पुनरावृत्ती अभ्यासक्रमांमध्ये वारंवार प्रशिक्षण वाढू शकते. दीर्घ प्रशिक्षणात मोठ्या मशीनमध्ये प्रवेश आवश्यक आहे आणि बहुतेक क्लाऊड सर्व्हिस प्रदाता अद्याप केवळ एक वर्ष किंवा त्याहून अधिक कालावधी बुक केल्यासच प्रवेशाची हमी देतात.
हे इतकेच नाही. ढग बंद करणे अगदी वास्तविक आहे. समजा आपण दीर्घकालीन आरक्षण बुक केले आहे आणि प्रदात्याकडून क्रेडिट्स खरेदी केली आहेत. या प्रकरणात, आपण त्यांच्या पर्यावरणीय प्रणालीमध्ये बंद आहात आणि इतर सेवा प्रदाता नवीन आणि चांगल्या पायाभूत सुविधांमध्ये जात असतानाही आपण त्यांच्याकडे असलेल्या सर्व गोष्टी वापरल्या पाहिजेत. शेवटी, जेव्हा आपल्याला हलविण्याची क्षमता मिळेल, तेव्हा आपल्याला मोठ्या प्रमाणात बाहेर पडण्याच्या शुल्काचा सामना करावा लागू शकतो.
“केवळ खर्चाचे खातेच नाही. मला मिळाले … अनपेक्षित स्वयंचलित, आणि वेडा एक्झिट फी जर आपण प्रदेश किंवा विक्रेत्यांमधील डेटा हस्तांतरित केला तर. एक संघ होता जो त्यांच्या मॉडेल्सना प्रशिक्षण देण्यापेक्षा डेटा हस्तांतरित करण्यासाठी पैसे देतो,” सरीनने पुष्टी केली.
तर, उपाय म्हणजे काय?
कृत्रिम बुद्धिमत्तेच्या निष्कर्षाची व्याप्ती आणि प्रशिक्षणाच्या अयशस्वी स्वरूपाचा विस्तार करण्यासाठी पायाभूत सुविधांची सतत मागणी पाहता, संस्था विशिष्ट भागातील क्लाउड प्रशिक्षण सोडताना चिमणी किंवा अंतर्गत चिमणीच्या काम घेण्याच्या फायद्याचे विभाजन करण्यासाठी पुढे जातात.
हा केवळ एक सिद्धांत नाही – अभियांत्रिकी नेत्यांमध्ये ही वाढती चळवळ आहे जी धावपट्टी ओलांडून जळत न घेता कृत्रिम बुद्धिमत्ता उत्पादनात ठेवण्याचा प्रयत्न करीत आहेत.
खुरी पुढे म्हणाले: “आम्ही नियंत्रित केलेल्या सानुकूल जीपीयू सर्व्हरच्या वापराचा अंदाज लावण्यापासून आम्ही गटात रूपांतरित करण्यात मदत केली आहे. ते रोमांचक नाहीत, परंतु ते मासिक खर्च 60-80 %ने कमी करतात,” खुरी पुढे म्हणाले. “हायब्रिड केवळ स्वस्त नाही – ते अधिक बुद्धिमान आहे.”
ते म्हणाले की, एका प्रकरणात, सासने क्लाउडमधून अनुमानांच्या कामाचे ओझे हस्तांतरित करून कृत्रिम बुद्धिमत्तेवरून मासिक पायाभूत सुविधांचे बिल सुमारे, 000२,००० डॉलर्सवरून केवळ, 000,००० डॉलर्सपर्यंत कमी केले आहे. दोन आठवड्यांपेक्षा कमी कालावधीत स्वत: साठी पेड ट्रान्सफॉर्मर.
कृत्रिम बुद्धिमत्ता ग्राहक समर्थनाच्या साधनासाठी शोधलेल्या सब -50 एमएसला निश्चित प्रतिसाद आवश्यक असलेल्या दुसर्या टीमला की पीअरच्या गटावर आधारित अनुमान वेळ पुरेसे नव्हते. अनुमानांचे रूपांतरण केवळ कार्यप्रदर्शनाची अडचण नव्हे तर एकत्रितपणे वापरकर्त्यांच्या जवळ आहे – परंतु अर्ध्या किंमतीची होती.
तयारी सहसा अशा प्रकारे कार्य करते: अनुमान, जे नेहमीच संवेदनशील आणि वैशिष्ट्यांसह संवेदनशील असते, जवळच्या डेटा सेंटर (संग्रह) मध्ये समर्पित ग्राफिक्स प्रोसेसिंग युनिट्सवर कार्य करते. दरम्यान, प्रशिक्षण, जे त्याच्या खात्याद्वारे वैशिष्ट्यीकृत आहे परंतु अधून मधून आहे, ते ढगात राहते, जिथे आपण विनंती केल्यावर मजबूत गट फिरवू शकता, काही तास किंवा दिवस चालवू शकता आणि त्यांना बंद करू शकता.
मोठ्या प्रमाणात, अंदाजानुसार असे दिसून येते की सुपीरियर क्लाउड सर्व्हिस प्रदात्यांच्या भाड्याने लहान सेवा प्रदात्यांसह काम करण्यापेक्षा प्रत्येक जीपीयूला तीन ते चार पट खर्च केला जाऊ शकतो, जरी स्थानिक पायाभूत सुविधांच्या तुलनेत संघ अधिक महत्त्वाचे आहेत.
आणखी एक मोठे बक्षीस? भविष्यवाणी करण्याची क्षमता.
ऑन-प्रीम किंवा संग्रहणासह, कार्यसंघाच्या कामाच्या ओझेसाठी अपेक्षित फाउंडेशन लाइनमध्ये त्यांना किती संसाधने प्रदान करायची किंवा जोडण्याची इच्छा आहे यावर कार्यसंघाचे पूर्ण नियंत्रण आहे. हे पायाभूत सुविधांच्या किंमतींचा अंदाज लावण्याची क्षमता आणते – आणि अचानक बिले काढून टाकते. हे स्केलिंग नियंत्रित करण्यासाठी आणि वाजवी मर्यादेत क्लाउड इन्फ्रास्ट्रक्चरची किंमत राखण्यासाठी आक्रमक अभियांत्रिकी प्रयत्नांवर देखील उतरते.
संकरित सेटिंग्ज देखील वेळासाठी कृत्रिम बुद्धिमत्ता अनुप्रयोगांसाठी प्रवेश कमी करण्यास आणि अनुपालन अधिक सक्षम करण्यास मदत करतात, विशेषत: वित्तपुरवठा, आरोग्य सेवा आणि शिक्षण यासारख्या उच्च संघटित उद्योगांमध्ये कार्य करणार्या संघांसाठी डेटा निवास आणि प्रशासन बोलण्यायोग्य नाही.
मिश्रित जटिलता वास्तविक आहे – परंतु हे क्वचितच व्यवहार करते
जसे की नेहमीच असेच होते, संकरित सेटिंगचे परिवर्तन त्याच्या ओपीएस करासह येते. आपली स्वतःची डिव्हाइस तयार करण्यास किंवा किंग्ज सुविधा भाड्याने देण्यास वेळ लागतो आणि ग्राफिक्स प्रोसेसिंग युनिट्स व्यवस्थापित करण्यासाठी वेगवेगळ्या प्रकारच्या अभियांत्रिकी स्नायूंची आवश्यकता असते.
तथापि, नेते असा युक्तिवाद करतात की जटिलता बर्याचदा अतिशयोक्तीपूर्ण असते आणि सामान्यत: घरात किंवा बाह्य समर्थनाद्वारे व्यवस्थापित केली जाते, जोपर्यंत ती व्यक्ती मोठ्या प्रमाणात काम करत नाही.
“आमची खाती दर्शविते की जीपीयू सर्व्हर त्याच्या डोक्यावर अंदाजे सहा ते नऊ महिने एडब्ल्यूएस, अझर किंवा गूगल क्लाऊड कडून असोसिएट भाड्याने घेतात, अगदी एक वर्षाची राखीव सरासरी.
आवश्यकतेनुसार प्राधान्य द्या
कोणत्याही कंपनीसाठी, ती एक उदयोन्मुख कंपनी असो किंवा संस्था असो, आयटी शिकवताना यशाची गुरुकिल्ली किंवा विशिष्ट कामाच्या ओझे नुसार आर्किटेक्चर-कॅन वर्कची जीर्णोद्धार.
आपल्याला विविध कृत्रिम बुद्धिमत्ता कार्याच्या ओझ्याबद्दल खात्री नसल्यास, क्लाऊडपासून प्रारंभ करा आणि जबाबदार कार्यसंघासह प्रत्येक संसाधनावरील चिन्हाशी संबंधित किंमतींचे बारकाईने परीक्षण करा. आपण हे खर्च अहवाल सर्व व्यवस्थापकांसह सामायिक करू शकता आणि ते जे वापरतात त्यामध्ये खोल डायव्हिंग करू शकता आणि संसाधनांवर त्याचा परिणाम. हा डेटा नंतर स्पष्टता प्रदान करेल आणि कार्यक्षमतेचा मार्ग मोकळा करेल.
तथापि, लक्षात ठेवा की ढग पूर्णपणे सोडून देण्याची ही बाब नाही; कार्यक्षमता जास्तीत जास्त वाढविण्यासाठी त्याचा वापर सुधारण्यासाठी येतो.
खुरी जोडले: “क्लाउड अद्याप चाचणी आणि बुसरसाठी उत्कृष्ट आहे.” ढगांना प्रारंभिक मॉडेलप्रमाणेच कायमचे घर नव्हे तर उपचार करा. गणित चालवा. आपल्या अभियंताशी बोला. चुकीचे साधन केव्हा आहे हे ढग कधीही सांगणार नाही. पण आपले एडब्ल्यूएस बिल. “