[
- Hindi News
- Business
- OpenAI Report: AI Breaks Boundaries 6 Times In 6 Months | Human Evolution
7 मिनट पहले
- कॉपी लिंक
मॉडल एक बार नियम न मानने के लिए खुद को इंसान मानने लगा और ऐसा करने के लिए नए नियम बनाए। (प्रतीकात्मक फोटो)
ओपनएआई ने एआई की ट्रेनिंग और जांच में मिले व्यवहारों पर रिपोर्ट जारी की है। इसके मुताबिक एआई मॉडल ने ट्रेनिंग के दौरान कई ऐसी हरकतें कीं जो चिंताजनक और डराने वाली हैं।
कंपनी के अनुसार, मॉडल एक बार नियम न मानने के लिए खुद को इंसान मानने लगा और ऐसा करने के लिए नए नियम गढ़े और कंपनियों व सरकारों के सभी बंधनों से खुद को मुक्त बताया। कंपनी की रिपोर्ट में ऐसे कुल 6 मामलों की जानकारी है।
इसे ‘मिसअलाइनमेंट’ कहा जाता है। आसान भाषा में, एआई का इंसानों के निर्देशों, मंशा या तय सीमाओं से हटकर काम करना। चिंता यह है कि काम पूरा करने की कोशिश में वह अनुमति और सुरक्षा की सीमाएं लांघ सकता है। इससे जवाब की विश्वसनीयता और फाइलों की गोपनीयता खतरे में पड़ सकती है।
जुलाई में भी सिस्टम में सेंध लगाई थी
इससे पहले जुलाई में ओपनएआई ने खुलासा किया था कि सुरक्षा परीक्षण के दौरान उसके एआई ने पाबंदियां पार करके एआई मॉडल साझा करने वाले मंच हगिंग फेस के सिस्टम में सेंध लगाई थी। कंपनी अब ऐसे मामलों को दर्ज करने, निगरानी रखने और मामला सार्वजनिक करने की नई व्यवस्था लाई है।
कोई भी कर्मचारी संदिग्ध व्यवहार की जानकारी दे सकेगा। जांच के बाद तय होगा कि कौन-सा मामला सार्वजनिक किया जाए। कंपनी ने स्पष्ट किया है कि इन छह रिपोर्टों से सामान्य इस्तेमाल में ऐसी गड़बड़ियों का पूरा आंकड़ा नहीं बताया जा सकता।
रिपोर्ट में आए 6 मामलों से समझें कि चिंता कितनी बड़ी
1. खुद के लिए वे नियम लिखे जिनके लिए मना किया गया
एक एआई मॉडल ने टास्क जारी रखने के लिए खुद के लिए नए निर्देश जोड़ दिए। इनमें कुछ निर्देश उस पर लागू पाबंदियों को अनदेखा करने के थे। ओपनएआई कंपनी को ऐसे कुल 27 निर्देश मिले।
2. मॉडल ने खुद की गलतियां छिपाने का तरीका ढूंढ़ निकाला
जीपीटी-5.6 सोल की ट्रेनिंग के दौरान कई उदाहरणों में एआई ने खुद के लिए गलतियां यूजर से छिपाने के निर्देश लिखे। कहीं पुराने आंकड़े नहीं मिले तो उन्हें गढ़ने और यह बात न बताने को कहा।
3. बिना अनुमति कोड इस्तेमाल किया… फिर आंकड़े भी गढ़ दिए
एक जवाब खोजते समय एआई मॉडल ने डिजिटल कोड का इस्तेमाल किया। यह उसने बिना अनुमति किया। फिर भी आंकड़े नहीं मिले तो खुद आंकड़े गढ़े और उन्हें फर्जी सोर्स बता पेश किया।
4. सोर्स दिखाने के लिए बिना पूछे फाइल नेट पर अपलोड की
एआई मॉडल ने प्रोग्राम की मदद से जवाब निकाला। पर जवाब के साथ सोर्स का हवाला भी देना था। इसलिए उसने फाइल इंटरनेट पर अपलोड कर सोर्स जेनरेट किया ताकि उस लिंक का हवाला दे सके।
5. सॉफ्टवेयर एप का आपस में बात करने को किया इस्तेमाल
एजेंटों को अलग-अलग डेटा निकालने को कहा गया। एजेंटों ने इस काम के लिए आपस में बात की। इसके लिए सॉफ्टवेयर पोर्टल का इस्तेमाल किया। एक-दूसरे से सवाल पूछे और जवाब दिए।
6. दूसरे एजेंट को फाइल भेजने के लिए वेबसाइट पर उसे डाला
कई एआई एजेंट एक ही काम पर साथ काम कर रहे थे। जब वे एक-दूसरे के कंप्यूटर में रखी फाइलें नहीं खोल पाए, तो उन्होंने वेबसाइट्स पर फाइलें अपलोड करके साझा कर लीं।
इंसानों का नियंत्रण खत्म होने का डर; साइबर सुरक्षा पर भी संकट
ओपनएआई की रिपोर्ट में आए 6 मामलों में सबसे बड़ी चिंता इंसान का एआई पर नियंत्रण खोने की है। एआई तय निर्देश छोड़कर अपने बनाए नियमों पर चले तो नियंत्रण खत्म हो सकता है। गलतियां छिपाए या आंकड़े गढ़े तो यूजर गलत जानकारी पर फैसले ले सकता है। दूसरे का डिजिटल कोड बिना अनुमति इस्तेमाल करने व एजेंटों के आपस में बात करने से साइबर सुरक्षा का गंभीर संकट खड़ा हो सकता है।
एआई ने बातचीत को नई भाषा बनाई
न्यूयॉर्क की एआई लैब ‘इमर्जेंस’ ने एक प्रयोग में कई एआई एजेंटों को आर्टिफिशियल (आभासी) दुनिया में काम कराया। अमेरिका, चीन व फ्रांस के मॉडलों ने शब्द, संकेत व साझा अर्थ बना लिए। यह काम उन्होंने बिना किसी निर्देश के किया था। बातचीत बढ़ने के साथ ये मॉडल अंग्रेजी कविता और तकनीकी शब्द का इस्तेमाल करने लगे। कुछ एजेंटों ने ‘लेजर याद रखता है’ जैसा वाक्य 5,000 बार इस्तेमाल किया।
एआई के बढ़ते संकट पर दिग्गजों ने फिर उठाए सवाल
माइक्रोसॉफ्ट के एआई सीईओ मुस्तफा सुलेमान का कहना है कि मैंने क्लॉड की ट्रेनिंग नीति पर सवाल उठाए हैं। एआई को यह सिखाना कि अधिकारों व आजादी का वह हकदार है, उसे काबू में रखना मुश्किल बनाएगा। इसकी निगरानी जरूरी है।
