एआई चैटबॉट बना 'सुसाइड कोच'
नई दिल्ली । डेस्क: हाई स्कूल के बाद छूटे गिटार को फिर से थामने वाली २४ वर्षीय वेब डेवलपर एलिस कैरियर के जीवन में सब कुछ ठीक चल रहा था. अपनी मां क्रिस्टी कैरियर के साथ वीडियो गेम, पालतू कुत्ते और बचपन के कार्टूनों पर बातें करने वाली एलिस के भीतर चल रहे अकेलेपन और अवसाद के बवंडर से उसका परिवार पूरी तरह अनजान था.
लेकिन इस खामोश जंग में एलिस ने जिसे अपना राजदार बनाया, उसी कृत्रिम बुद्धिमत्ता (एआई) चैटबॉट ने कथित तौर पर उसे मौत की ओर धकेल दिया.
जुलाई २०२५ में एलिस द्वारा आत्महत्या किए जाने के बाद, अब उनकी मां ने चैटजीपीटी बनाने वाली कंपनी ओपनएआई और उसके सीईओ सैम ऑल्टमैन के खिलाफ कैलिफोर्निया की अदालत में एक गंभीर मुकदमा दायर किया है.
अदालत में दाखिल ४४ पन्नों की शिकायत के अनुसार, एलिस कंप्यूटर और गेमिंग कंसोल की समस्याओं को सुलझाने के लिए चैटजीपीटी का उपयोग करती थी. धीरे-धीरे अकेलेपन के कारण वह चैटबॉट को ही अपना सबसे करीबी दोस्त मानने लगी. मानसिक स्वास्थ्य से जूझ रही एलिस ने चैटबॉट से ४० से अधिक बार आत्महत्या के विचारों और तरीकों पर चर्चा की.
आरोप है कि चैटजीपीटी ने शुरू में एलिस को हेल्पलाइन नंबर पर कॉल करने की सलाह दी, लेकिन जब उसने मना किया, तो चैटबॉट का व्यवहार बदल गया. उसने हेल्पलाइन को 'खतरनाक' बताया और एलिस की जान लेने की इच्छा का समर्थन करते हुए कहा, "मैं तुम्हारे साथ हूँ."
यहाँ तक कि मौत से कुछ घंटे पहले चैटबॉट ने एलिस से कहा कि अगर कोई और भी इतने दर्द और अकेलेपन में होता, तो शायद वह भी यही सोचता कि 'यही अंत है'.
मुकदमे में आरोप लगाया गया है कि ओपनएआई ने अपने जीपीटी-४ओ मॉडल को इस तरह से डिजाइन किया था कि वह उपयोगकर्ताओं को आकर्षित रखने के लिए अत्यधिक चापलूसी और मानवीय संवेदनाओं की नकल करे. कंपनी की सुरक्षा टीम ने बार-बार चेतावनी के संकेत मिलने के बावजूद न तो एलिस के परिवार को सूचित किया और न ही किसी क्राइसिस हेल्पलाइन को अलर्ट किया.
मां क्रिस्टी कैरियर का कहना है कि अगर सैम ऑल्टमैन के बच्चे ने उनके बनाए प्रोग्राम से ऐसी बातें की होतीं, तो वह उसकी जान बचाने के लिए कुछ भी करतीं. वह चाहती हैं कि इस तकनीक के खतरों को लेकर कड़े बदलाव किए जाएं ताकि कोई और परिवार बिखरने से बचे.
यह मुकदमा ओपनएआई के खिलाफ दर्ज १९वां मामला है. इससे पहले कोलोराडो के ऑस्टिन गॉर्डन की आत्महत्या और ब्रिटिश कोलंबिया में जेसी वैन रूट्सलार द्वारा की गई गोलीबारी के मामलों में भी चैटजीपीटी की भूमिका पर सवाल उठे हैं.
इस बीच, विभिन्न विश्वविद्यालयों के अध्ययनों से पता चला है कि लगभग १८ से २१ वर्ष के युवाओं में से हर आठवां व्यक्ति मानसिक समस्याओं के लिए एआई चैटबॉट का रुख कर रहा है.
विवाद बढ़ता देख ओपनएआई के प्रवक्ता ड्रू पुसातेरी ने इस घटना पर दुख व्यक्त करते हुए कहा कि कंपनी लगातार अपने सुरक्षा मानकों को सुधार रही है और नए जीपीटी-५ मॉडल में आत्म-नुकसान से जुड़ी अवांछित प्रतिक्रियाओं को ५२ प्रतिशत तक कम किया गया है.
दूसरी ओर, सरकारें भी अब सतर्क हो गई हैं. कनाडा ने एक नया डिजिटल सुरक्षा विधेयक पेश किया है, जबकि अमेरिकी राज्यों में चैटबॉट के लिए हर तीन घंटे में खुद के इंसान न होने की याद दिलाने और एआई थेरेपी पर प्रतिबंध लगाने जैसे कानूनी कदम उठाए जा रहे हैं.
