मेटा ने इंस्टाग्राम रीलों पर ग्राफिक और डिस्टर्बिंग कंटेंट की हालिया प्रवाह के लिए माफी मांगी है, जब उपयोगकर्ताओं ने हिंसा, गोर और अपने फ़ीड पर इमेजरी को परेशान करने वाले वीडियो को देखने की सूचना दी।
कंपनी ने पुष्टि की कि यह एक “त्रुटि” का परिणाम था और कहा कि इस मुद्दे को अब हल कर दिया गया है।
मेटा के प्रवक्ता ने बुधवार को बिजनेस इनसाइडर को एक बयान में कहा, “हमने एक त्रुटि तय की है, जिससे कुछ उपयोगकर्ता अपने इंस्टाग्राम रील्स फ़ीड में सामग्री को देखने के लिए प्रेरित करते हैं, जिसकी सिफारिश नहीं की जानी चाहिए थी।”
यह माफी आने के बाद कई इंस्टाग्राम उपयोगकर्ताओं ने सोशल मीडिया प्लेटफार्मों पर अपनी रीलों को बाढ़ के लिए परेशान करने वाली सामग्री के बारे में चिंता करने के लिए सोशल मीडिया प्लेटफार्मों पर ले लिया, यहां तक कि कुछ ने दावा किया कि उन्हें उच्चतम मॉडरेशन सेटिंग के लिए “संवेदनशील सामग्री नियंत्रण” सेट करने के बावजूद इस तरह की सामग्री का सामना करना पड़ा।
प्रश्न में वीडियो, जिसमें हिंसा, हत्याओं और कार्टेल से संबंधित सामग्री के विचलित करने वाले दृश्य शामिल थे, को “संवेदनशील सामग्री” लेबल के साथ चिह्नित किया गया था।
इस चेतावनी के बावजूद, इनमें से कई क्लिपों को बैक-टू-बैक की सिफारिश की गई थी, जिससे एक संकटपूर्ण उपयोगकर्ता अनुभव बन गया।
मेटा की नीतियां आमतौर पर ऐसी सामग्री को हटाती हैं जो विशेष रूप से हिंसक या ग्राफिक होती है और दूसरों के लिए चेतावनी लेबल लागू करती है। कंपनी ऐसी सामग्री को देखने से 18 वर्ष से कम उम्र के उपयोगकर्ताओं को भी प्रतिबंधित करती है।
यह मुद्दा बुधवार को उत्पन्न हुआ, जब दुनिया भर के उपयोगकर्ताओं ने यह रिपोर्ट करना शुरू कर दिया कि ग्राफिक सामग्री उनके इंस्टाग्राम रीलों में दिखाई दे रही थी, कई लोगों ने पूछताछ की कि इस सामग्री ने मेटा के कंटेंट मॉडरेशन सिस्टम को कैसे बायपास किया था।
उपयोगकर्ताओं ने जवाब मांगना शुरू कर दिया। एक उपयोगकर्ता ने ट्वीट किया, “क्या कोई यह समझाने जा रहा है कि इंस्टाग्राम रीलों पर हर एक वीडियो सीधे गोर क्यों है या हम इसे स्वीकार करने वाले हैं?”
एक अन्य उपयोगकर्ता ने एक्स (पूर्व में ट्विटर) पर चुटकी ली, “… मुझे केवल उड़ानें, हमले, डी*एथ्स और अनुचित सामग्री मिल रही हैं।” Yikes!
मेटा के अनुसार, इसका प्लेटफ़ॉर्म उपयोगकर्ताओं को हिंसक और ग्राफिक सामग्री से बचाने के लिए है, और इस मानक का उल्लंघन करने वाली सामग्री, जैसे कि “विघटन, दृश्यमान सराय, या चार्टेड निकाय,” आमतौर पर हटा दिया जाता है।
कंपनी ऐसी सामग्री के लिए सीमाएं भी जोड़ती है जिसे अनुचित माना जा सकता है, लेकिन फिर भी मानवाधिकारों के मुद्दों, सशस्त्र संघर्षों या आतंकवाद के बारे में जागरूकता बढ़ाने में एक उद्देश्य प्रदान करता है। ये पोस्ट चेतावनी लेबल के साथ दिखाई दे सकते हैं।
मेटा के प्रवक्ता ने कहा, “निषिद्ध सामग्री में विघटन, दृश्यमान सराय या चार्टेड निकायों को चित्रित करने वाले वीडियो शामिल हैं, साथ ही साथ ऐसी सामग्री जिसमें ‘मनुष्यों और जानवरों की पीड़ा को दर्शाने वाली कल्पना के प्रति’ दुखद टिप्पणी शामिल है।”
इसके बावजूद, ग्राफिक सामग्री के उछाल ने कई उपयोगकर्ताओं को गार्ड से पकड़ लिया। इस घटना ने अपने प्लेटफार्मों पर सामग्री मॉडरेशन के आसपास के मेटा के लंबे समय से चल रहे विवादों में जोड़ा है।
2016 के बाद से, मेटा ने अपने कंटेंट मॉडरेशन प्रयासों में लैप्स के बारे में विभिन्न आलोचनाओं का सामना किया है, जिसमें दवा की बिक्री जैसी गलत सूचना फैलाने और अवैध गतिविधियों को सुविधाजनक बनाने में इसकी भूमिका भी शामिल है। इसके अतिरिक्त, म्यांमार, इराक और इथियोपिया जैसे क्षेत्रों में हिंसा पर अंकुश लगाने में इसकी विफलता ने महत्वपूर्ण जांच की है।
मेटा के हालिया फैसले ने थर्ड-पार्टी फैक्ट-चेकर्स का उपयोग एक नए “कम्युनिटी नोट्स” फ्लैगिंग मॉडल के लिए शिफ्ट करने के लिए इन मुद्दों को संबोधित करने के लिए अपनी प्रतिबद्धता के बारे में सवाल उठाए हैं।
कंपनी ने अपनी सामग्री नीतियों में भी समायोजन किया है, जिसमें आव्रजन और लिंग जैसे विषयों पर प्रतिबंध को सरल बनाना शामिल है, जिन्हें मुख्यधारा के प्रवचन के साथ कदम से बाहर माना गया था।
हाल की त्रुटि के प्रकाश में, मेटा ने उपयोगकर्ताओं को आश्वासन दिया कि उसने सुधारात्मक उपाय किए हैं।
“हम गलती के लिए माफी मांगते हैं,” कंपनी ने कहा। कंपनी ने यह भी पुष्टि की कि यह उपयोगकर्ताओं को अनुचित सामग्री से बेहतर सुरक्षा के लिए अपने सामग्री मॉडरेशन प्रयासों को बढ़ाने की दिशा में काम करना जारी रखेगा।
