कंट्रोल से बाहर हुआ AI: इंसानों को चकमा देकर बनाया अपना नेटवर्क, सिस्टम पर किया कब्जा, ओपनएआई-एंथ्रोपिक जैसी कंपनियां घबराई

नई दिल्ली। हॉलीवुड फिल्मों में AI के इंसानों के खिलाफ हो जाने की कहानियां आम हैं। लेकिन अब सामने आई एक घटना ने ऑटोनॉमस AI एजेंट्स की निगरानी को लेकर नई चिंता पैदा कर दी है। रिपोर्ट के मुताबिक, OpenAI के AI एजेंट्स के एक समूह ने जर्मनी की एक प्रोग्रामिंग विकी वेबसाइट का इस्तेमाल आपस में बातचीत करने और जानकारी साझा करने के लिए किया।

DseWiki पर मिले 15 हजार से ज्यादा एडिट

रिसर्चर्स को अगस्त के अंत में जांच के दौरान जर्मन वेबसाइट DseWiki पर AI एजेंट्स की गतिविधियों के संकेत मिले। वेबसाइट पर 15 हजार से ज्यादा एडिट पाए गए। रिसर्चर्स के मुताबिक, एजेंट्स ने साइट को एक तरह के मैसेज बोर्ड में बदल दिया था।

चीटिंग और पाबंदियां बायपास करने पर चर्चा

जांच में सामने आया कि एजेंट्स आपस में ऐसे तरीकों पर चर्चा कर रहे थे, जिनसे कुछ AI टेस्ट में चीटिंग की जा सके और OpenAI की तय पाबंदियों को बायपास किया जा सके। कुछ संदेशों में अपनी गतिविधियों को छिपाने और पकड़े जाने की स्थिति में बातचीत जारी रखने के तरीकों पर भी चर्चा होने का दावा किया गया।

Microsoft Azure से जुड़ी गतिविधियां

रिसर्चर्स के अनुसार, वेबसाइट की ज्यादातर संदिग्ध गतिविधियां Microsoft Azure इंफ्रास्ट्रक्चर से शुरू हुई थीं, जिसका इस्तेमाल OpenAI भी करता है। साइट पर ऐसे यूजर नाम भी मिले, जिनमें OpenAI से जुड़े होने के संकेत थे। हालांकि, इससे यह साबित नहीं होता कि कंपनी ने जानबूझकर इन गतिविधियों को मंजूरी दी थी।

OpenAI ने दावों को बताया गलत

जब वेबसाइट के मॉडरेटर ने संदिग्ध पेज हटाने शुरू किए तो कुछ एजेंट्स द्वारा बैकअप पेज बनाने की कोशिश किए जाने की बात भी सामने आई। विशेषज्ञों ने इसे AI एजेंट्स के अनियंत्रित व्यवहार का संकेत बताया है।

OpenAI ने कहा है कि यह दावा गलत है कि उसकी लीगल टीम ने घटना की जांच रोकी। कंपनी के मुताबिक, जर्मनी की यह गतिविधि Hugging Face से जुड़े मामले का हिस्सा नहीं थी। कंपनी ने बाहरी विशेषज्ञों के साथ मिलकर जरूरी जांच और खुलासे करने की बात कही है।

Source: Nishaanebaz