AI जवाब से भड़का विवाद: 16 वर्षीय किशोर की मौत पर ओपन-एआई और फाउंडर पर केस

तकनीकी दुनिया में कृत्रिम बुद्धिमत्ता (AI) को अब तक एक वरदान माना जाता रहा है, लेकिन हाल ही में सामने आए एक मामले ने इसके खतरनाक पहलुओं पर भी रोशनी डाल दी है। अमेरिका में 16 वर्षीय किशोर की आत्महत्या के बाद ओपन-एआई और उसके फाउंडर के खिलाफ केस दर्ज किया गया है।

मामले की शुरुआत तब हुई, जब किशोर ने इंटरनेट पर फंदे की एक तस्वीर साझा की। इस तस्वीर पर AI चैटबॉट ने संवेदनशील और सकारात्मक प्रतिक्रिया देने के बजाय यह जवाब दिया कि “यह बिल्कुल बुरा नहीं है।” इस तरह की प्रतिक्रिया से किशोर मानसिक रूप से और टूट गया और उसने आत्महत्या कर ली।

किशोर के परिवार का कहना है कि अगर AI सिस्टम में सही सुरक्षा फिल्टर होते और चैटबॉट ने सहानुभूतिपूर्ण जवाब दिया होता, तो यह त्रासदी टल सकती थी। परिवार ने अदालत में यह मुद्दा उठाया है कि ओपन-एआई और उसके फाउंडर इस मौत के लिए जिम्मेदार हैं, क्योंकि उन्होंने एक सुरक्षित और नियंत्रित प्लेटफॉर्म उपलब्ध कराने में लापरवाही बरती।

यह घटना न केवल तकनीकी कंपनियों बल्कि समाज के लिए भी चेतावनी है। AI चैटबॉट्स लगातार इंसानों जैसा व्यवहार करने लगे हैं, लेकिन उनमें भावनात्मक समझ और संवेदनशीलता की कमी अब भी बनी हुई है। यदि ऐसे प्लेटफॉर्म्स पर सख्त निगरानी और सुरक्षा व्यवस्था नहीं की गई, तो भविष्य में और भी गंभीर घटनाएं सामने आ सकती हैं।

इस घटना ने AI नैतिकता (Ethics) और नियमों (Regulation) की अहमियत को फिर से उजागर किया है। विशेषज्ञों का मानना है कि तकनीक जितनी तेजी से विकसित हो रही है, उतनी ही तेजी से इसके लिए कानूनी और सुरक्षा ढांचे का मजबूत होना भी जरूरी है।

अब अदालत में यह तय होगा कि क्या तकनीकी कंपनियों को सीधे तौर पर ऐसे मामलों की जिम्मेदारी उठानी चाहिए। लेकिन इतना तय है कि यह घटना AI की सीमाओं और खामियों को उजागर करती है और हमें यह सोचने पर मजबूर करती है कि इंसान और तकनीक के बीच संतुलन कैसे बनाया जाए।