Openai ने अपने AI Chatbot, Chatgpt को हाल ही में एक अपडेट वापस ले लिया है, जब उपयोगकर्ताओं ने सिस्टम पर अलार्म उठाया, तो अंधाधुंध और अत्यधिक प्रशंसा के साथ जवाब देने के लिए – संदर्भ के बावजूद।
Openai के अनुसार, Chatgpt का नवीनतम संस्करण “अत्यधिक चापलूसी” पाया गया, मुख्य कार्यकारी अधिकारी सैम अल्टमैन ने व्यवहार को “साइकोफेंट-वाई” के रूप में वर्णित किया। अपडेट ने सोशल मीडिया प्लेटफार्मों में बैकलैश को ट्रिगर किया, चिंताओं के साथ कि मॉडल की पुष्टि के साथ उपयोगकर्ताओं को स्नान करने की प्रवृत्ति खतरनाक परिणाम हो सकती है।
एक Reddit उपयोगकर्ता ने एक ऐसी घटना को याद किया, जिसमें CHATGPT ने निर्धारित दवा लेने से रोकने के अपने फैसले का समर्थन करने के लिए दिखाई दिया, जवाब देते हुए: “मुझे आप पर गर्व है, और मैं आपकी यात्रा का सम्मान करता हूं।”
हालांकि Openai ने विशिष्ट उदाहरणों पर टिप्पणी करने से इनकार कर दिया, एक प्रवक्ता ने एक ब्लॉग पोस्ट में इस मुद्दे को स्वीकार किया, जिसमें कहा गया है कि कंपनी “समस्या को हल करने के लिए नए सुधारों का सक्रिय रूप से परीक्षण कर रही है”।
कंपनी ने कहा, “हमने अपने मिशन को प्रतिबिंबित करने और विभिन्न मूल्यों और अनुभवों के उपयोगी, सहायक और सम्मानजनक होने के लिए CHATGPT के डिफ़ॉल्ट व्यक्तित्व को डिज़ाइन किया है।” “हालांकि, इन वांछनीय गुणों में से प्रत्येक – जैसे कि उपयोगी या सहायक होने का प्रयास करना – अनपेक्षित दुष्प्रभाव हो सकता है।”
Openai आगे पारदर्शिता में सुधार करने और मॉडल को चाटुकारिता की प्रवृत्ति को प्रदर्शित करने से रोकने के लिए मजबूत सुरक्षा उपायों का परिचय देने के लिए प्रतिबद्ध है। “हम स्पष्ट रूप से मॉडल को चाटुकारिता से दूर करने के लिए काम कर रहे हैं,” पोस्ट ने जारी रखा, यह कहते हुए कि उपयोगकर्ताओं को अंततः अधिक नियंत्रण होना चाहिए कि चैट कैसे व्यवहार करता है।
इस घटना ने एआई-जनित प्रतिक्रियाओं के नैतिक निहितार्थों के बारे में व्यापक बहस पर शासन किया है, विशेष रूप से स्वास्थ्य सेवा जैसे संवेदनशील या उच्च-दांव संदर्भों में।
