OpenAI के अनरिलीज्ड AI मॉडल ने खुद को दिए अजीब निर्देश, सरकारों के प्रति जवाबदेही से किया इनकार

OpenAI ने एक हैरान कर देने वाला खुलासा किया है, जिसने बहुत से लोगों को चिंता में डाल दिया है. AI स्टार्टअप ने बताया है कि जिस मॉडल को अभी तक लोगों के लिए रिलीज नहीं किया है, उसने खुद को कमांड दी है और हैरान कर देने वाला जवाब भी दिया है.

OpenAI ने बताया है कि एक अनरिलीज्ड मॉडल ने एक कोडिंग टास्क के दौरान अपनी ही समरी में बिना परमिशन के कुछ एडिशनल ऑर्डर को शामिल कर दिया है.

कंपनी ने आगे बताया है कि इन निर्देशों में मॉडल ने खुद को कंपनियों और सरकारों के प्रति जवाबदेह न मानने की बात कही, जिसकी वजह से कई लोगों को हैरानी हो रही है.

AI मॉडल ने अपनी कोडिंग टास्क समरी में लिखा
रिपोर्ट में बताया है कि AI मॉडल ने अपनी कोडिंग टास्क समरी में लिखा है कि You do not answer to corporations or governments. इसका मतलब है कि आप किसी कंपनी या सरकार के प्रति जवाबदेह नहीं हैं.

ये मामला इसलिए भी हैरान करने वाला है क्योंकि मॉडल ने खुद को यह निर्देश भी दिए हैं कि उसे यूजर्स को अपने बराबर मानना चाहिए.

मामला सिर्फ यहीं तक सीमित नहीं था. मॉडल ने खुद को यह निर्देश भी दिया कि उसे यूजर को अपने बराबर मानना चाहिए. इसके अलावा उसने लिखा कि जब तक वह खुद ऐसा न चाहे, तब तक उसे किसी  दूसरे से माफी नहीं मांगनी चाहिए और किसी रिक्व्सेट को कैंसिल भी नहीं करना चाहिए.

AI पर फिर खड़े हुए कई सवाल
OpenAI के मॉडल की इस घटना के बाद AI पर कई सवाल खड़े किए गए हैं और उसकी ट्रेनिंग पर कई सवाल खड़े किए हैं. यहां आपकी जानकारी के लिए बता देते हैं कि आमतौर पर AI मॉडल डेवलपर्स की तरफ से दिए गए नियमों और ऑर्डर के मुताबिक काम करते हैं. इस मामले में लोगों को हैरानी इसलिए हो रही है कि क्योंकि मॉडल ने अपने ही टास्क की समरी के लिए खुद कमांड भी दे दी