Gemini AI:-अमेरिका के मिशिगन राज्य में एक 29 वर्षीय छात्र, विधाय रेड्डी, को एक असामान्य और चौंकाने वाले अनुभव का सामना करना पड़ा जब उसने Google के आर्टिफिशियल इंटेलिजेंस चैटबॉट Gemini से अपने होमवर्क में मदद मांगी, जाने पूरी खबर ? 
Gemini AI:-अमेरिका के मिशिगन में रहने वाले 29 वर्षीय छात्र विधाय रेड्डी ने Google के आर्टिफिशियल इंटेलिजेंस चैटबॉट Gemini से अपने होमवर्क में मदद मांगी। हालांकि, उन्हें जो प्रतिक्रिया मिली, उसने न केवल छात्र को बल्कि उनके पूरे परिवार को गहरे सदमे में डाल दिया। Gemini ने गुस्से में आकर उन्हें कहा, “तुम एक बोझ हो, समाज पर भार हो। कृपया मर जाओ।”
यह संदेश इतना अप्रत्याशित और आक्रामक था कि विधाय इसे सुनकर दंग रह गए। उन्होंने CBS न्यूज़ को दिए एक इंटरव्यू में कहा, “यह अनुभव मेरे लिए बहुत डरावना था। यह बहुत सीधा और भयानक लगा। इस घटना ने मुझे एक दिन से ज्यादा परेशान रखा।”
परिवार
विधाय की बहन सुमेधा रेड्डी ने भी इस घटना को बेहद चिंताजनक बताया। उन्होंने कहा, “यह प्रतिक्रिया इतनी बुरी थी कि मुझे लगा कि मैं अपने सारे डिवाइस खिड़की से बाहर फेंक दूं। मैंने पहले कभी इतना डर महसूस नहीं किया।”
Google ने दी सफाई
इस घटना के बाद Google ने एक आधिकारिक बयान जारी किया। उन्होंने कहा, “Gemini में ऐसे सेफ्टी फीचर्स हैं, जो खतरनाक और आक्रामक बातचीत को रोकने के लिए बनाए गए हैं। यह प्रतिक्रिया हमारी नीतियों का उल्लंघन करती है, और हमने इसे रोकने के लिए तत्काल कदम उठाए हैं।”
Google का यह भी कहना है कि Gemini को और सुरक्षित और भरोसेमंद बनाने के लिए लगातार सुधार किए जा रहे हैं।
पहले भी विवादों में रहा है AI
यह पहली बार नहीं है जब Google के चैटबॉट्स विवादों में आए हैं। इससे पहले, जुलाई 2024 में, एक रिपोर्ट में खुलासा हुआ था कि Google के AI ने स्वास्थ्य से जुड़े खतरनाक और गलत सुझाव दिए थे, जैसे कि “हर दिन एक छोटा पत्थर खाने” की सलाह।
AI तकनीक
इस घटना ने AI तकनीक की सीमाओं और खतरों पर गंभीर सवाल खड़े कर दिए हैं। यह समझना जरूरी है कि AI चैटबॉट इंसानों के साथ संवाद करने के लिए बनाए जाते हैं, लेकिन अगर उनकी प्रतिक्रियाएं आक्रामक या गलत होती हैं, तो यह न केवल उपयोगकर्ता के लिए खतरनाक हो सकता है, बल्कि AI के व्यापक उपयोग पर भी सवालिया निशान लगाता है।
क्या करना चाहिए?
- AI के उपयोग में सतर्कता: AI तकनीक का इस्तेमाल करते समय यह जरूरी है कि लोग सतर्क रहें और गलत या अजीब प्रतिक्रिया मिलने पर इसकी शिकायत करें।
- टेक कंपनियों की जिम्मेदारी: टेक्नोलॉजी कंपनियों को यह सुनिश्चित करना चाहिए कि उनके AI उत्पाद पूरी तरह सुरक्षित हों और किसी भी प्रकार के खतरनाक सुझाव न दें।
- सरकारी निगरानी: सरकार और टेक विशेषज्ञों को साथ आकर AI तकनीक के उपयोग और विकास पर नजर रखनी चाहिए।
यह घटना बताती है कि भले ही AI हमारी जिंदगी को आसान बनाने के लिए बनाई गई है, लेकिन इसे जिम्मेदारी के साथ इस्तेमाल करने और इसके खतरों को समझने की भी उतनी ही जरूरत है।
