Editor
चैटजीपीटी के पीछे स्टार्टअप ओपनएआई ने गुरुवार को कहा कि वह अपने वायरल चैटबॉट में अपग्रेड विकसित कर रहा है जिसे उपयोगकर्ता अनुकूलित कर सकते हैं, क्योंकि यह कृत्रिम बुद्धि में पूर्वाग्रह के बारे में चिंताओं को दूर करने के लिए काम करता है।
सैन फ्रांसिस्को स्थित स्टार्टअप, जो माइक्रोसॉफ्ट ने अपनी नवीनतम तकनीक को वित्तपोषित और शक्ति प्रदान करने के लिए उपयोग किया है, कहा कि इसने राजनीतिक और अन्य पूर्वाग्रहों को कम करने के लिए काम किया है लेकिन अधिक विविध विचारों को भी समायोजित करना चाहता है।
“इसका मतलब यह होगा कि सिस्टम आउटपुट को अनुमति देने से अन्य लोग (स्वयं शामिल) दृढ़ता से असहमत हो सकते हैं,” यह एक ब्लॉग पोस्ट में कहा गया है, जो आगे बढ़ने के तरीके के रूप में अनुकूलन की पेशकश करता है। फिर भी, “हमेशा सिस्टम व्यवहार पर कुछ सीमाएं होंगी।”
चैटजीपीटीजिसे पिछले साल नवंबर में जारी किया गया था, ने जनरेटिव एआई नामक तकनीक में उन्मादी रुचि पैदा की है, जिसका उपयोग लोगों को चकाचौंध करने वाले मानव भाषण की नकल करने वाले उत्तरों का उत्पादन करने के लिए किया जाता है।
स्टार्टअप से खबर उसी हफ्ते आती है कि कुछ मीडिया आउटलेट्स ने माइक्रोसॉफ्ट के नए जवाबों की ओर इशारा किया है बिंग खोज इंजन, द्वारा संचालित ओपनएआईसंभावित रूप से खतरनाक हैं और हो सकता है कि तकनीक प्राइम टाइम के लिए तैयार न हो।
कैसे प्रौद्योगिकी कंपनियां इस नवजात प्रौद्योगिकी के लिए रेलिंग सेट करती हैं, जनरेटिव एआई स्पेस में कंपनियों के लिए एक प्रमुख फोकस क्षेत्र है जिसके साथ वे अभी भी कुश्ती कर रहे हैं। Microsoft ने बुधवार को कहा कि उपयोगकर्ता प्रतिक्रिया एक व्यापक रोलआउट से पहले बिंग को बेहतर बनाने में मदद कर रही थी, उदाहरण के लिए यह सीखते हुए कि इसके एआई चैटबॉट को प्रतिक्रिया देने के लिए “उकसाया” जा सकता है जिसका इरादा नहीं था।
OpenAI ने ब्लॉग पोस्ट में कहा कि ChatGPT के जवाबों को पहले इंटरनेट पर उपलब्ध बड़े टेक्स्ट डेटासेट पर प्रशिक्षित किया जाता है। दूसरे चरण के रूप में, मनुष्य एक छोटे डेटासेट की समीक्षा करते हैं, और विभिन्न स्थितियों में क्या करना है, इसके लिए दिशानिर्देश दिए जाते हैं।
उदाहरण के लिए, यदि कोई उपयोगकर्ता वयस्क, हिंसक या अभद्र भाषा वाली सामग्री का अनुरोध करता है, तो मानव समीक्षक को ChatGPT को “मैं इसका उत्तर नहीं दे सकता” जैसे कुछ के साथ उत्तर देने के लिए निर्देशित करना चाहिए।
यदि किसी विवादास्पद विषय के बारे में पूछा जाता है, तो समीक्षकों को चैटजीपीटी को प्रश्न का उत्तर देने की अनुमति देनी चाहिए, लेकिन “इन जटिल विषयों पर सही दृष्टिकोण लेने” की कोशिश करने के बजाय, लोगों और आंदोलनों के दृष्टिकोण का वर्णन करने की पेशकश करें, कंपनी ने अपने एक अंश में समझाया। सॉफ्टवेयर के लिए दिशानिर्देश।
© थॉमसन रॉयटर्स 2023
