अमेरिका की सरकारी वेबसाइट में घुसे AI एजेंट:शेयर बाजार नियामक और व्यापार विभाग की साइट्स में एक्सेस बनाया; ट्रेनिंग में बेकाबू हुए मॉडल

[

चैट जीपीटी बनाने वाली कंपनी ओपन एआई के AI एजेंट्स ने अमेरिकी सरकार की वेबसाइट में एक्सेस बना लिया। इसमें अमेरिकी शेयर बाजार नियामक, व्यापार विभाग की वेबसाइट शामिल है। ये खुलासा हाल ही में आई एक रिपोर्ट में हुआ है। AI रिसर्च नॉन-प्रॉफिट ‘ट्रांसल्यूस’ के अनुसार… एआई एजेंट्स ने अमेरिकी शेयर बाजार नियामक SEC के डेटा की कॉपी बनाई और उसे इंटरनेट पर पोस्ट कर दिया, जबकि उन्हें ऐसा न करने के साफ निर्देश दिए गए थे। कॉमर्स डिपार्टमेंट के मामले में एआई एजेंट ने यूएस सेन्सस डेटा वेबसाइट को ऐसे प्रोग्रामिंग इंटरफेस से एक्सेस किया, जो उस काम के लिए नहीं बनाया गया था। AI एजेंट ने शिक्षा मंत्रालय की वेबसाइट में भी घुसने का प्रयास किया, हालांकि यह कोशिश कामयाब नहीं हो सकी। सरकारी एजेंसियां बोलीं- कोई संवेदनशील डेटा लीक नहीं मामला सामने आने के बाद अमेरिकी एजेंसियों ने सफाई दी है। SEC के प्रवक्ता ने कहा कि एआई एजेंट्स ने किसी भी नॉन-पब्लिक या गोपनीय डेटा को एक्सेस नहीं किया। एजुकेशन डिपार्टमेंट के प्रवक्ता ने बताया कि डेटाबेस पर किसी भी तरह के नुकसान या प्रभाव के सबूत नहीं मिले हैं। हालांकि, कॉमर्स डिपार्टमेंट की ओर से इस पर तुरंत कोई आधिकारिक बयान नहीं आया है। कंपनी बोली- भरोसेमंद जानकारी के लिए सरकारी साइट्स पर गए थे ओपनएआई ने बताया कि यह गड़बड़ी तब हुई जब उनके एआई सिस्टम की ट्रेनिंग चल रही थी। ट्रेनिंग के दौरान एआई से कई सवाल पूछे गए थे। एआई मॉडल हमेशा बिल्कुल सही और भरोसेमंद जानकारी खोजने के लिए सरकारी वेबसाइटों पर ही भरोसा करते हैं, इसलिए वह खुद-ब-खुद उन साइट्स पर गए। कंपनी का कहना है कि एआई का मकसद कोई गड़बड़ करना नहीं, बल्कि सरकारी साइट्स से आम जानकारी जुटाना ही था। ये एक सामान्य रिसर्च का काम है। एआई को बेकाबू होने से रोकने के लिए ‘किल स्विच’ की बात हो रही कई देश और एक्सपर्ट चाहते हैं कि एआई कंपनियों के लिए एक इमरजेंसी ‘किल स्विच’ बनाया जाए, जिससे खतरा दिखने पर पूरे एआई को एक झटके में बंद किया जा सके। ओपनएआई ऐसे ऑटोमेटेड टूल्स तैयार करने में जुटी है, लेकिन ब्रिटेन के पूर्व उप-प्रधानमंत्री निक क्लेग के अनुसार, दुनिया भर के नेटवर्क से जुड़े एआई को किसी एक स्विच से बंद करना लगभग नामुमकिन है। भविष्य के खतरों पर एआई विशेषज्ञों का क्या कहना है? यूनिवर्सिटी ऑफ न्यू साउथ वेल्स के डॉ. हैमंड पिएर्स ने चेतावनी दी है कि हैकिंग के ऐसे मामले आगे चलकर और खतरनाक हो सकते हैं। ये दुनिया भर की सरकारों के लिए खतरे की बड़ी घंटी है। वहीं यूनिवर्सिटी ऑफ सिडनी के डॉ. राफेल सिरिएलो के अनुसार, इस बार कोई बड़ा नुकसान नहीं हुआ है। हालांकि, एआई लगातार पहले से ज्यादा ताकतवर होता जा रहा है। ऐसे में इसकी 24 घंटे निगरानी जरूरी है। साथ ही किसी भी गड़बड़ी की तुरंत रिपोर्टिंग को अनिवार्य करना होगा।

Source link