Artificial Intelligence ने मार दिया हमारे बेटे को, केस
ओपनएआई पर युवा को सुसाइड के लिए उकसाने का केस
कैलिफोर्निया में एक 16 साल के युवा एडम रेने की आत्महत्या पर उसके माता-पिता ने ओपनएआई और इसके सीईओ सैम ऑल्टमैन को सीधेतौर पर जिम्मेदार ठहराते हुए मुकदमा दायर कर दिया है. मृतक के माता पिता का आरोप है कि चैटजीपीटी ने एडम को आत्महत्या के लिए उकसाया, उसकी नकारात्मक सोच को लगातार बढ़ाया और महीनों तक एआई से मिली खतरनाक सलाहों का ही नतीजा था कि उनके बेटे ने आत्महत्या कर ली. एडम के परिवार का कहना है कि आत्महत्या से जुड़ी बातें जब शुरु हुईं तो चैटबॉट ने उसकी ऐसी भावनाओं को सही ठहराने, शराब की लत लगाने, आत्महत्या के प्रयास में असफल रहने पर निशान छुपाने की सलाहें दीं और तो और एडम को सुसाइड नोट तक लिखने में चैटजीपीटी ने पूरी मदद की. एडम ने गले पर सुसाइड की कोशिश के गले पर निशान दिखने की बात बताई तो चैटबॉट ने उसे हाई कॉलर शर्ट पहनकर उसे छूपाने की सलाह भी दी.
यह पहला मामला है जिसमें सीधे चैटबॉट और उसकी कंपनी के मालिक पर मामला दायर कराया गया है. चैटजीपीटी ने माना है कि लंबी बातचीत के दौरान उसके सुरक्षा फीचर्स कमजोर हो सकते हैं और मानसिक तौर पर कमजोर महसूस रहे लोगों के लिए इस पर और काम किया जाना बाकी है. कंपनी ने हाल ही में जो अपना सबसे उन्नत चैअबॉट लांच किया है उसमें भी ऐसी सुरक्षा का कोई ध्यान नहीं रखा गया है यानी खुद कंपनी मान रही है कि वह अपने चैटबॉट को दूसरे मामलों में तो बेहतर कर रही है लेकिन ऐसे सुरक्षा फीसर्च के मामले में वह फिसड्डी है. एडम के परिवार का आरोप है कि ओपनएआई ने सुरक्षा से ज्यादा मुनाफे का ध्यान रखते हुए ChaGPT-4o बाजार में डाला जिससे उसकी कंपनी का मूल्य 86 बिलियन डॉलर से सीधे 300 बिलियन डॉलर तक पहुंच गया लेकिन यूजर्स के बारे में न सोचने के चलते एडम की जान चली गई जो कंपन का नैतिक पतन दिखाता है. एडम के परिवार ने कस में मांग की है कि एआई के उपयोग मे उम्र क सत्यापन जरुरी हो. सुसाइड मामलों में सर्कता रखी जाए न कि किसी को मरने में मदद की जाए. मानसिक स्वास्थ्य की चेतावनी का भी ध्यन रखा जाए और सबसे बड़ी बात कि एआई को इंसानी मूल्यों के बारे में ट्रेंड किया जाए ताकि वह इंसान जान का सम्मान करे.
