क्रिस्टीना वेल्कबीबीसी न्यूज आणि
केविन एंग्विनबीबीसी सत्यापित करा

स्पॅमर्सचे आंतरराष्ट्रीय नेटवर्क फेसबुकवर होलोकॉस्ट पीडितांच्या एआय-एक्सपोज्ड प्रतिमा पोस्ट करीत आहे, “एआय ओपी अलू” वर बीबीसीच्या तपासणीत.
होलोकॉस्टची स्मृती जपण्यासाठी समर्पित कंपन्यांचे म्हणणे आहे की प्रतिमा जिवंत आणि त्रासदायक कुटुंबे आहेत.
त्यांनी फेसबुकच्या मुख्य संस्थेच्या मेटा देखील टीका केली आहे की ती आपल्या प्लॅटफॉर्म वापरकर्त्यांना क्रौर्य “संवेदनशील गेम” मध्ये बदलू देते.
दुसर्या महायुद्धात ऑसविट्स एकाग्रता शिबिराच्या आतून काही मुख्य वास्तविक चित्रे आहेत.
तथापि, अलिकडच्या काही महिन्यांत, एआय स्पॅमर्सने शिबिराच्या आतून बनावट प्रतिमा पोस्ट करण्यासाठी पोस्ट केले आहेत, जसे की कैदी व्हायोलिन खेळत आहे किंवा सीमा सीमेवर प्रेमी खेळत आहे – हजारो निवडी आणि शेअर्स आकर्षित करते.
पोलंडमधील ऑसविट्स मेमोरियलचे प्रवक्ते पावेल सावकी म्हणाले, “आपल्यातील काहीजण येथे काही विचित्र संवेदनशील खेळांसाठी कथा बनवित आहेत … सोशल मीडियावर घडत आहेत.”
“हा एक खेळ नाही हा एक वास्तविक जग आहे, वास्तविक दु: ख आणि खरे लोक आहेत जे आम्हाला हवे आहेत आणि” लक्षात ठेवू इच्छित आहेत “” “

बीबीसीकडे या प्रतिमांच्या नेटवर्क खात्यावर अनेक पाकिस्तानी -आधारित सामग्री उत्पादकांचा मागोवा आहे जे फेसबुकवर पैसे कसे कमवायचे यावर बारकाईने सहकार्य करतात. ते गेमिंग मेटाचा सामग्री मॅनेटेशन (सीएम) प्रोग्राम आहेत, एक “आमंत्रण-केबल” प्रणाली जी वापरकर्त्यांच्या उच्च-कार्यक्षम सामग्री आणि अभ्यागतांना पैसे देते.
पाकिस्तानमध्ये राहणारे म्हणून सूचीबद्ध अब्दुल मुगी यांनी एक खाते स्क्रीनशॉट पोस्ट केले ज्यामध्ये दावा केला आहे की मेटासह सोशल मीडियाने कॅशिंग प्रोजेक्टच्या माध्यमातून 20,000 डॉलर्सची कमाई केली आहे. आणखी एक पोस्ट चार महिन्यांपासून सामग्रीमध्ये 1.2 अब्जपेक्षा जास्त गोळा केलेले खाते दर्शविते.
आम्ही कोणत्याही निर्मात्याची कमाई स्वतंत्रपणे सत्यापित करण्यास सक्षम नाही.
अब्दुल मुघीझमधील बर्याच फेसबुक पोस्टमध्ये एआय -निर्मित प्रतिमा आणि काल्पनिक होलोकॉस्टच्या बनावट कथा फ्लोअरबोर्डखाली लपलेल्या किंवा मुलाच्या घनतेच्या शिबिरात शिल्लक असलेल्या ट्रॅकमध्ये शिल्लक असलेल्या मुलांचा समावेश आहे.
बीबीसी खाते ऑनलाइन क्रियाकलाप आणि काही डझनभर इतरांचे विश्लेषण असे सूचित करते की ते जवळजवळ केवळ “एआय ओपी अलू” पोस्ट करीत आहेत.
हा शब्द कमी गुणवत्तेच्या एआय-एक्सपोज्ड प्रतिमा आणि ग्रंथांचा संदर्भ देतो, जो सहसा मोठ्या प्रमाणात तयार केला जातो आणि सोशल मीडियावर स्पॅम केला जातो.
पृष्ठे आणि गटांच्या इतिहासासाठी ऑसविट हा एक लोकप्रिय विषय बनला आहे. “टाइम -हॉनर्ड स्टोरी” आणि “हिस्ट्री हेवन” सारख्या नावांसह दिवसातून 50 वेळा पोस्ट पोस्ट करा.
जूनमध्ये, ऑसविट्स संग्रहालयाने या राष्ट्रीय खात्यांना चेतावणी दिली होती जी आपली पोस्ट चोरुन, एआय मॉडेलद्वारे प्रक्रिया करीत होती आणि बर्याचदा ऐतिहासिक तपशील पसरवित होती किंवा तपशील बनवित होती आणि पीडितांना पूर्णपणे मोहित केले गेले. एका फेसबुक पोस्टमध्ये संग्रहालयात म्हटले आहे की या प्रतिमा “धोकादायक विकृती” आहेत ज्या “पीडितांचा अनादर करतात आणि त्यांच्या आठवणींना त्रास देतात”.

श्री. सावकी म्हणतात की बनावट प्रतिमेची त्सुनामी होलोकॉस्टबद्दल जागरूकता वाढविण्याच्या ऑसविट्स मेमोरियलचे ध्येय कमी करीत आहे.
ते म्हणाले, “आम्ही आमच्या फेसबुक पोस्टवर यापूर्वीच भाष्य करण्यास सुरवात केली आहे, अरे, हे एक एआय-एक्सपोज्ड चित्र आहे,” ते म्हणाले.
होलोकॉस्ट एज्युकेशन अँड रिसर्चमधील एका एजन्सीच्या मते, होलोकॉस्ट एआय ऑपने वाचलेले आणि कुटुंबीय देखील विचलित झाले आहेत.
डॉ. रॉबर्ट विल्यम्स आंतरराष्ट्रीय होलोकॉस्ट मेमोरियल अलायन्समधून म्हणाले, “ते काय पाहतात हे त्यांना पूर्णपणे समजत नाही.”
ते म्हणाले की, जागरूकता वाढविण्यात सरकार आणि परोपकारी गुंतवणूकी असूनही, होलोकॉस्टमधील वाचलेल्यांना “दु: खाच्या काही भावना येऊ लागल्या”.
“त्यांना वाटते की त्यांचे प्रयत्न पुरेसे नव्हते,” तो म्हणाला.
“ही एक अतिशय वाईट गोष्ट आहे कारण वाचलेल्यांपैकी शेवटचा एक आम्हाला लवकरच सोडेल.”
मेटा जाणीवपूर्वक वापरकर्त्यांना होलोकॉस्टबद्दल चुकीच्या कथा पोस्ट करण्यास प्रोत्साहित करीत नाही, परंतु त्याची प्रणाली उच्च व्यस्ततेसह पोस्ट बक्षीस देते. बीबीसीला भारत, व्हिएतनाम, थायलंड आणि नायजेरियावर आधारित एआय ओपी अलू खातीही मिळाली आहेत.

हे नेटवर्क विशिष्ट प्रकारचे साहित्य का तयार करीत आहेत हे समजून घेण्यासाठी, बीबीसी पाकिस्तानी फजल रहमानशी बोलले, ज्यांना अनेक सोशल मीडिया सामग्री कमाईच्या प्रकल्पांमध्ये प्रवेश देण्यात आला आहे आणि ते म्हणतात की हे काम त्याच्या उत्पन्नासाठी उत्पन्नाचे एकमेव स्त्रोत बनले आहे.
जरी तो म्हणाला की तो स्वत: एक होलोकॉस्ट प्रतिमा तयार करीत नाही आणि सुरुवातीला विचारले असता या शब्दाचा अर्थ काय हे माहित नाही, परंतु तो त्याच फेसबुक गटात करणा those ्यांप्रमाणे कार्य करतो.
श्री. रहमान म्हणाले की, जर ,, 7 फॉलोअर्ससह फेसबुक पृष्ठ अमेरिका, युनायटेड स्टेट्स आणि युरोपकडून उच्च-मूल्य प्रेक्षकांना “प्रीमियम सामग्री” प्रदान करते तर त्याचा मालक एका महिन्यात $ 1000 कमवू शकतो. त्यांनी असे गृहीत धरले आहे की आशियातून प्राप्त झालेल्या पदांपेक्षा पाश्चात्य दृश्ये आठपट जास्त होती.
ते म्हणाले की इतिहास हा ऑनलाइन रहदारीचा विश्वासार्ह ड्रायव्हर होता.
इतर उत्पादक सहमत असल्याचे दिसते. बीबीसीने बीबीसीच्या प्रतिमा आणि मजकूर सतत व्युत्पन्न करण्यासाठी एआय मॉडेल्स किती लोकप्रिय एआय मॉडेल्स वापरता येतील यावरील दिशानिर्देशात्मक व्हिडिओ पाहिल्या आहेत.
एका व्हिडिओमध्ये, निर्मात्याने मूळ ऐतिहासिक टिहॅसिक इव्हेंटची यादी करण्यास सांगितले जे एआय चॅटबॉटचा वापर सामग्री तयार करण्याचा आधार म्हणून करू शकेल आणि होलोकॉस्टला त्याचे उत्तर म्हणून दिले गेले.
काही निर्मात्यांच्या इतर सल्ल्यांमध्ये प्रेक्षक कसे बनवायचे आणि मेटा सीएम प्रोग्रामसाठी पात्र कसे व्हावे याविषयी टिप्स समाविष्ट आहेत.
फेसबुकवर एक पृष्ठ पारदर्शक वैशिष्ट्य आहे, जे वापरकर्त्यांना पृष्ठांची मागील नावे ट्रॅक करण्यास अनुमती देते. याचा वापर करून, बीबीसीला अनेक पृष्ठे आढळली की होलोकॉस्ट एआय ओपी एकदा अधिकृत अग्निशमन विभाग, व्यावसायिक व्यवसाय आणि अमेरिकेतील अमेरिकन वर्चस्व असलेले पोस्ट केले गेले होते – सर्व त्यांच्या संमतीशिवाय विविध घटक म्हणून ओळखले गेले.
उत्पादकांच्या सार्वजनिक पोस्टनुसार ही पृष्ठे निर्माता बाजारात प्रवेश करण्याचा प्रयत्न करीत आहेत, त्या विकल्या किंवा त्यांना भाड्याने दिले जाऊ शकतात.

बीबीसीने मेटाला अनेक प्रोफाइलबद्दल विचारले ज्यांनी एआय सामग्रीचे होलोकॉस्ट-टिम पोस्ट केले होते आणि फसव्या अभ्यासामध्ये सामील असल्याचे दिसते.
मूळतः जूनमध्ये ऑसविट्स मेमोरियलसह अनेक प्रोफाइल आणि गट काढले गेले.
टेक राक्षसाचे प्रवक्ते म्हणतात की या बनावट प्रतिमा त्याच्या सामग्रीच्या तत्त्वांचे उल्लंघन करीत नाहीत, परंतु त्यांनी त्यांची तपासणी केली आहे आणि त्यांनी पृष्ठे किंवा पृष्ठांच्या व्यवसायाबद्दलचे नियम मोडले आहेत.
ते म्हणाले, “आम्ही आमच्याबरोबर सामायिक केलेली पृष्ठे आणि गट काढून टाकले आहेत आणि स्पॅम आणि चमत्कारांविषयीच्या आमच्या धोरणांचे उल्लंघन करण्यासाठी त्यामागील खाती अक्षम केल्या आहेत,” ते म्हणाले.
एआयचा उपयोग भूतकाळातील होलोकॉस्ट लक्षात ठेवण्यासाठी आणि ख P ्या पीडितांच्या कथा जगण्यासाठी केला जात होता, परंतु आंतरराष्ट्रीय होलोकॉस्ट अलायन्सच्या डॉ. विल्यम्स यांनी असा इशारा दिला की होलोकॉस्टचा इतिहास एखाद्या मार्गाने मोहित झाला आहे या अर्थाने योगदान देऊ शकेल.
ते म्हणाले, “अत्यंत निर्मात्याचे कोणतेही प्रकार आपल्यापासून दूर जावेत असे काहीतरी आहे.”
बीबीसी उर्दू उमर द्राझ नांगियानाचा अतिरिक्त अहवाल