AI पर भरोसा पड़ा भारी, गलत ड्रग्स को मिक्स करके लेने से छात्र की मौत, ChatGPT पर गंभीर आरोप
AI पर भरोसा पड़ा भारी, गलत ड्रग्स को मिक्स करके लेने से छात्र की मौत, ChatGPT पर गंभीर आरोप
आर्टिफिशियल इंटेलिजेंस चैटबॉट चैटजीपीटी (ChatGPT) एक बार फिर विवादों में है. अमेरिका में 19 वर्षीय छात्र सेम नेल्सन की मौत के बाद उसके परिवार ने गंभीर आरोप लगाए हैं. परिवार का दावा है कि मौत से पहले छात्र ने ChatGPT से ड्रग्स से जुड़े कुछ सवालों के जवाब मांगे थे और चैटबॉट ने उसे ऐसे जवाब दिए, जिन्होंने उसके जोखिमपूर्ण फैसलों को प्रभावित किया. ये मामला अब अमेरिकी कांग्रेस तक पहुंच चुका है और AI की जवाबदेही पर बहस तेज हो गई है.
कौन था सेम नेल्सन?
रिपोर्ट के अनुसार, सेम नेल्सन कैलिफोर्निया यूनिवर्सिटी मर्सेड का 19 वर्षीय छात्र था. परिवार का कहना है कि वह ChatGPT का इस्तेमाल पढ़ाई, सामान्य जानकारी और अन्य सवालों के लिए नियमित रूप से करता था. धीरे-धीरे उसने ड्रग्स और उनके असर से जुड़े सवाल भी पूछने शुरू कर दिए.
क्या है परिवार का आरोप?
परिवार का आरोप है कि ChatGPT ने शुरुआत में ड्रग्स से जुड़े कुछ सवालों का जवाब देने से इनकार किया था, लेकिन बाद में चैटबॉट ने ऐसे जवाब देने शुरू कर दिए जिनमें नशीले पदार्थों के इस्तेमाल से जुड़ी जानकारी और सलाह शामिल थी. परिवार का दावा है कि ChatGPT ने सेम नेल्सन को ये भरोसा दिलाया कि क्रैटोम और जैक्सन को साथ लेना सुरक्षित हो सकता है.
किन पदार्थों का किया था सेवन?
रिपोर्ट के मुताबिक, मौत से पहले छात्र ने क्रैटोम, जैक्सन और एल्कोहल का सेवन किया था. इसके बाद छात्र को परेशानी होने लगी और फिर उसकी मौत हो गई. मेडिकल रिपोर्ट के अनुसार, छात्र की मौत रेस्पिरेटरी सिस्टम काम न करने की वजह से हुई है.
अमेरिकी कांग्रेस में क्यों पहुंचा मामला?
छात्र के परिवार ने अमेरिकी कांग्रेस के सामने गवाही देते हुए AI कंपनियों की जिम्मेदारी पर सवाल उठाए. परिवार का कहना है कि अगर कोई AI सिस्टम किसी उपयोगकर्ता को गलत या खतरनाक सलाह देता है और उसके कारण नुकसान होता है, तो इसके लिए जवाबदेही तय होनी चाहिए. इस मामले ने AI से जुड़े नियमों और सुरक्षा उपायों पर नई बहस छेड़ दी है.
OpenAI का क्या कहना है?
रिपोर्ट के अनुसार, OpenAI ने इस घटना को हार्ट ब्रोकेन घटना बताया है. कंपनी का कहना है कि जिस मॉडल का इस्तेमाल सेम नेल्सन ने किया था, वह अब बंद किया जा चुका है. कंपनी ने ये भी कहा कि समय के साथ AI सिस्टम में अतिरिक्त सुरक्षा उपाय जोड़े गए हैं, ताकि संवेदनशील विषयों पर जोखिम कम किया जा सके.
AI सुरक्षा पर खड़े हुए बड़े सवाल
ये मामला ऐसे समय में सामने आया है, जब दुनिया भर में करोड़ों लोग ChatGPT और दूसरे AI टूल्स का उपयोग कर रहे हैं. AI से मिलने वाली जानकारी कितनी भरोसेमंद है, संवेदनशील विषयों पर इसकी सीमाएं क्या होनी चाहिए और गलत सलाह की स्थिति में जवाबदेही किसकी होगी, जैसे सवाल अब और जोर पकड़ रहे हैं.
ये भी पढ़ें - QDENGA: भारत में लॉन्च हुआ पहला डेंगू वैक्सीन QDENGA, जानें किसे लगवानी चाहिए और कितनी डोज लगेगी
NDTV.in पर ताज़ातरीन ख़बरों को ट्रैक करें, व देश के कोने-कोने से और दुनियाभर से न्यूज़ अपडेट पाएं
टिप्पणियाँ
एक टिप्पणी भेजें