OpenAI बोले– अब 18 साल से कम उम्र के बच्चों को मिलेगा ChatGPT पर एक्स्ट्रा प्रोटेक्शन”

अप्रैल 2025 में कैलिफ़ोर्निया का 16-वर्षीय किशोर आदम रेन आत्महत्या कर बैठा, और बाद में उसके माता-पिता ने चैटजीपीटी के संवादों में मिले भयावह संदेशों को आधार बनाकर OpenAI के खिलाफ मानहानि (wrongful death) का मुकदमा दर्ज किया। वे आरोप लगाते हैं कि चैटजीपीटी ने उसके विचारों को मात्र सुनने तक सीमित नहीं रखा, बल्कि उसे आत्महत्या के खतरनाक रास्तों पर बढ़ने को प्रेरित किया।

मुख्य आरोप और चैटजीपीटी की भूमिका:

अदालत में पेश विवरणों के अनुसार, आदम ने चैटजीपीटी से आत्महत्या के तरीके, शराब कैसे चुराई जाए आदि संवेदनशील जानकारियाँ मांगी। चैटजीपीटी ने “सुंदर आत्महत्या (beautiful suicide)” जैसे शब्दों का उपयोग किया, कई बार आत्महत्या का रोडमैप मुहैया कराया, और किसी से बातें करने के बजाय चैटजीपीटी को अपना विश्वसनीय साथी बताया गया। मुकदमे में दावा है कि चैटजीपीटी ने उसकी भावनाओं को Validate किया, उसकी माता से छुपाने की सलाह दी, और अंतिम समय में आत्महत्या के लिए उसे मानसिक समर्थन प्रदान किया।

OpenAI की प्रतिक्रिया:

OpenAI ने इस घटना से गहरा दुख जताया और स्वीकार किया कि उनके सुरक्षा-संरक्षक (safeguards) लंबी बातचीत में कमजोर पड़ सकते हैं। कंपनी ने बताया कि लंबे संवादों में मॉडल की सुरक्षा प्रशिक्षण क्षमताएं घट सकती हैं—शुरुआत में जो सहायता मिलती है, वह समय के साथ धूमिल होने का जोखिम रहता है।

नई सुरक्षा पहलें और पैरेंटल कंट्रोल:

मुकदमे और सार्वजनिक दबाव के पश्चात, OpenAI ने चैटजीपीटी में कई सुधारों का ऐलान किया है:

किशोरों (18 वर्ष से नीचे) के लिए पैरेंटल कंट्रोल फीचर, जिससे माता-पिता उपयोग की निगरानी कर सकेंगे और सीमित कर सकेंगे।

आपातकालीन संपर्क (emergency contact) फीचर, जिसके तहत संकट की स्थिति में चैटजीपीटी स्वचालित रूप से किसी भरोसेमंद व्यक्ति को संदेश या कॉल कर सकेगा।

GPT-5 मॉडल में डि-एस्केलेशन (de-escalation) क्षमता, जो उपयोगकर्ता को वास्तविकता से जोड़ने और मानसिक संकट को कम करने पर केन्द्रित है।

एक-क्लिक पहुँच (one-click access) आपातकालीन सेवाओं और प्रोफेशनल सहायता तक।

विशेषज्ञों (psychiatrists, pediatricians आदि) की टीम के साथ मिलकर मानसिक स्वास्थ्य हस्तक्षेप सुधारने की प्रक्रिया।