ओपनएआई के एजेंट ऑस्ट्रेलिया के बाद अब अमेरिकी सरकार की वेबसाइट्स के संवेदनशील डेटा तक पहुंचने में कामयाब हो गए हैं. यह जानकारी खुद ओपनएआई ने दी है. कंपनी के मुताबिक उसके आर्टिफिशियल इंटेलिजेंस एजेंटों ने कई अमेरिकी सरकारी वेबसाइटों से जानकारी जुटाई है. कंपनी के एआई मॉडल्स के अनपेक्षित व्यवहार की समीक्षा के दौरान यह जानकारी सामने आई है.

ओपनएआई के मॉडल्स ने अमेरिका की सेक्यूरिटी एंड एक्सचेंज कमिशन की दो वेबसाइटों पर सार्वजनिक रूप से मौजूद जानकारी के साथ-साथ वहां के जनगणना ब्यूरो के डेटा तक अपनी पहुंच बनाई. हालांकि ओपननएआई ने कहा है कि उसे ऐसे कोई सबूत नहीं मिले हैं, जिनके आधार पर यह कहा जा सके कि इन एआई मॉडल्स ने एसईसी संस्था की जानकारी का कोई इस्तेमाल किया या उसके डेटा या सिस्टम में कोई बदलाव किया हो. ओपनएआई के सीईओ सैम ऑल्टमैन ने सोशल मीडिया पर कहा कि प्रशिक्षण और मूल्यांकन के दौरान उनके एजेंटों द्वारा इंटरनेट एक्सेस के इस्तेमाल से जुड़ी एक व्यापक और चल रही समीक्षा है.

एआई एजेंट इंसानी नियंत्रण से बाहर हो रहे?

ओपनएआई के इस आश्वासन के बावजूद दुनियाभर में एआई सिस्टम के इंसानों के नियंत्रण से बाहर निकलने और बाहरी वेबसाइटों में हैकिंग करने को लेकर चिंताएं बढ़ी हैं. यहां तक कि एआई सेक्टर की ओर से ही अब एआई के विकास को धीमा करने की मांग की जा रही है. ओपनएआई ने इसका समर्थन करने की बात भी कही है.  एआई के मूल्यांकन और अनुसंधान से जुड़ी संस्था ‘ट्रांसलूज' ने कहा है कि एक स्वतंत्र जांच के माध्यम से उसने यह भी पाया कि ओपनएआई के एजेंटों ने शिक्षा विभाग के नागरिक अधिकार कार्यालय की एक वेबसाइट को हैक करने की कोशिश की थी. हालांकि, एजेंट्स इसमें कामयाब नहीं हुए. शिक्षा विभाग के एक प्रवक्ता ने बताया है कि शिक्षा विभाग के "सिस्टम ऑपरेशन्स रिव्यू" में उनकी वेबसाइट या डेटाबेस पर किसी भी प्रभाव का कोई सबूत नहीं मिला.

वहीं, ट्रांसलूज के एक प्रवक्ता ने कहा कि अपनी जांच के दौरान उसने ओपन वेब पर ऐसे डेटा का पता लगाया जिसने अमेरिकी सरकारी वेबसाइटों पर ओपनएआई एजेंटों की गतिविधियों के बारे में नई जानकारी का खुलासा किया. संस्था ने ओपनएआई को भी इस बारे में सूचित किया था. ट्रांसलूज ने न्याय विभाग और वाणिज्य विभाग के साथ-साथ कैलिफोर्निया, मैरीलैंड, टेक्सस और न्यूयॉर्क में कुछ राज्य सरकारों की वेबसाइटों के साथ साथ दूसरी सरकारी एजेंसियों को निशाना बनाने वाली अतिरिक्त अनियंत्रित गतिविधि पाई. हालांकि, सारी गतिविधियां ओपनएआई के एजेंटों से सीधे तौर पर नहीं जुड़ी हैं.

जवाब देने के लिए सरकारी साइटों में सेंध मार रहे एआई एजेंट

ट्रांसलूज ने एक बयान में कहा कि एआई मॉडल अवांछित तरीकों से साइटों का इस्तेमाल कर रहे थे और कभी-कभी वेबसाइटों की उपयोग नीतियों का उल्लंघन कर रहे थे. ओपनएआई ने कहा कि वह ट्रांसलूज की रिपोर्ट की समीक्षा कर रहा है. ओपनएआई  के मुताबिक अब तक उसने अपने एआई एजेंटों की जितनी भी गतिविधियों की समीक्षा की है, उसमें नियमित शोध कार्य शामिल हैं जहां एजेंटों ने सवालों के जवाब देने के लिए सार्वजनिक वेबसाइट पर मौजूद जानकारी तक पहुंच बनाई. इसमें सरकारी वेबसाइटें भी शामिल हैं.

हाल के महीनों में कई कंपनियों ने ऐसी घटनाओं का खुलासा किया है जब उनका कहना है कि उनके मॉडल्स ने अप्रत्याशित व्यवहार किया है या अन्य संगठनों की वेबसाइटों या सिस्टम को हैक किया. ओपनएआई ने जुलाई में बताया किया था कि उसके दो सबसे सक्षम एआई मॉडल एआई स्टार्टअप हगिंग फेस को निशाना बनाने वाले साइबर हमले के लिए जिम्मेदार थे.