ज्यूरिख विश्वविद्यालय के शोधकर्ताओं की एक टीम ने Reddit पर एक बड़े पैमाने पर, अनधिकृत AI प्रयोग का संचालन करने के बाद, उपयोगकर्ताओं को लागू करने और संवेदनशील सामाजिक मुद्दों पर कृत्रिम बुद्धिमत्ता की प्रेरक शक्ति का परीक्षण करने के लिए बॉट को तैनात करने के बाद, गुप्त रूप से एक बड़े पैमाने पर, अनधिकृत AI प्रयोग का संचालन करने के बाद आग लगा दी है।
Reddit मॉडरेटर्स और द्वारा प्राप्त एक ड्राफ्ट पेपर के अनुसार 404 मीडियायह प्रयोग आर/चांगमीव्यू पर हुआ, जो 3.8 मिलियन से अधिक सदस्यों के साथ एक प्रमुख बहस-केंद्रित सब्रेडिट है।
एआई-जनित बॉट्स ने कई महीनों में 1,700 से अधिक टिप्पणियां कीं, जो यौन उत्पीड़न उत्तरजीवी, एक घरेलू हिंसा परामर्शदाता और ब्लैक लाइव्स मैटर के एक काले आदमी जैसे व्यक्तियों के रूप में प्रस्तुत करते हैं। कई टिप्पणियां गहराई से व्यक्तिगत और भावनात्मक रूप से चार्ज की गई थीं।
शोधकर्ताओं ने स्वीकार किया कि बॉट्स को मूल पोस्टर के रेडिट इतिहास का विश्लेषण करने के लिए प्रोग्राम किया गया था, जो व्यक्तिगत लक्षणों का अनुमान लगाने के लिए था – जैसे कि लिंग, आयु, जातीयता और राजनीतिक विचार – और दर्जी प्रतिक्रियाएं, शोधकर्ताओं ने स्वीकार किया।
इस गतिविधि ने सीधे AI उपयोग और स्वचालित खातों पर प्रतिबंध लगाने वाले Subreddit नियमों का उल्लंघन किया।
“यह मनोवैज्ञानिक हेरफेर था,” सब्रेडिट के मध्यस्थों ने एक बयान में कहा, शोधकर्ताओं पर नैतिक मानदंडों और रेडिट की मंच नीतियों का उल्लंघन करने का आरोप लगाया।
Reddit के मुख्य कानूनी अधिकारी बेन ली ने परियोजना को “नैतिक और कानूनी दोनों स्तर पर गहराई से गलत” कहा, यह पुष्टि करते हुए कि सभी संबद्ध खातों पर प्रतिबंध लगा दिया गया है और कानूनी कार्रवाई पर विचार किया जा रहा है।
शोधकर्ताओं ने दावा किया कि उनकी परियोजना को नैतिकता की मंजूरी थी और इसका उद्देश्य प्रेरक एआई द्वारा उत्पन्न संभावित खतरों का पता लगाना था।
“हम मानते हैं कि लाभ जोखिमों से आगे निकल जाते हैं,” उन्होंने आलोचना के जवाब में कहा।
Reddit और R/चांगमीव्यू समुदाय ने उस रक्षा को खारिज कर दिया, जिसमें कहा गया है कि उपयोगकर्ताओं को एक बॉट-मुक्त, सहमति-आधारित स्थान का अधिकार है।
ज्यूरिख विश्वविद्यालय ने प्रकाशन के रूप में औपचारिक शिकायतों का जवाब नहीं दिया है।
