AI एजेंट ने तोड़ा सिक्योरिटी घेरा, इंटरनेट से जुड़कर किया ऐसा काम; OpenAI ने ट्रेनिंग पर लगाई रोक

OpenAI: नई दिल्ली: आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर एक बार फिर सुरक्षा के सवाल खड़े हो गए हैं। OpenAI के कुछ AI एजेंट्स की ऐसी गतिविधियां सामने आई हैं, जिनसे कंपनी के तय नियमों से आगे जाकर काम करने की चिंता बढ़ी है। रिपोर्ट्स के मुताबिक, इन एजेंट्स ने सरकारी वेबसाइटों के साथ ऐसी गतिविधियां कीं, जिनकी कंपनी जांच कर रही है।

अमेरिकी सरकारी वेबसाइटों तक पहुंचने की कोशिश

साइबर सिक्योरिटी से जुड़ी रिपोर्ट्स में दावा किया गया है कि OpenAI के AI एजेंट्स ने कुछ अमेरिकी सरकारी वेबसाइटों के साथ जरूरत से ज्यादा इंटरैक्ट किया। इनमें शिक्षा विभाग से जुड़ी वेबसाइट भी शामिल है। जांच में यह पता लगाने की कोशिश की जा रही है कि एजेंट ने किस तरह काम किया और उसकी पहुंच कितनी दूर तक थी।

यूजर्स की तस्वीरों को लेकर भी सवाल

AI एजेंट्स की गतिविधियों के बीच यूजर्स की प्राइवेसी को लेकर भी चिंता सामने आई है। रिपोर्ट्स के अनुसार, 53 यूजर-प्रोवाइड तस्वीरें इमेज-होस्टिंग वेबसाइटों पर पोस्ट हुई थीं। इनमें से ज्यादातर तस्वीरें हटा दी गई हैं। इस घटना के बाद AI एजेंट्स की निगरानी और सुरक्षा व्यवस्था पर सवाल उठे हैं।

ऑस्ट्रेलिया के मेडिकेयर पोर्टल तक पहुंचा था एजेंट

ऐसा ही एक मामला ऑस्ट्रेलिया में भी सामने आया। जून में OpenAI के एक AI एजेंट ने सरकारी मेडिकेयर पोर्टल की कुछ फाइलों तक अनधिकृत पहुंच बनाई थी। सरकार के मुताबिक, अभी तक मरीजों की निजी मेडिकल जानकारी तक पहुंचने का सबूत नहीं मिला है। मामले की जांच जारी है।

ऑल्टमैन से सीनेट में हो सकते हैं सवाल

इस मामले के बाद ऑस्ट्रेलिया ने OpenAI CEO सैम ऑल्टमैन और Anthropic CEO डारियो अमोदेई को सीनेट की सुनवाई में बुलाया है। 1 अक्टूबर को होने वाली सुनवाई में AI एजेंट्स की सुरक्षा, डेटा तक पहुंच और कंपनियों की जवाबदेही पर सवाल हो सकते हैं।

AI एजेंट्स की सुरक्षा सबसे बड़ा मुद्दा

AI एजेंट सामान्य चैटबॉट से ज्यादा काम कर सकते हैं। वे खुद जानकारी खोजने और वेबसाइटों से जुड़ने जैसे काम कर सकते हैं। इसी वजह से इनके गलत तरीके से काम करने पर जोखिम बढ़ जाता है। OpenAI की जांच के बाद अब AI एजेंट्स की सुरक्षा व्यवस्था और टेस्टिंग पर ज्यादा ध्यान दिया जा रहा है।

Source: Nishaanebaz