एआई चैटबॉट का झूठा दावा:ब्रिटेन से मेडिकल की पढ़ाई, 7 साल का अनुभव; फर्जी लाइसेंस नंबर भी दिया, पहली बार AI कंपनी पर मुकदमा
क्या आप अपनी बीमारी के लक्षण गूगल पर सर्च करते हैं या इलाज के लिए किसी एआई चैटबॉट से सलाह ले रहे हैं? अगर हां, तो संभल जाइए। आप जिसे अपना हमदर्द डॉक्टर समझकर दिल की बात बता रहे हैं, दरअसल वह महज एक कोड और डेटा का पुलिंदा हो सकता है। अमेरिका के पेंसिल्वेनिया प्रांत ने ‘कैरेक्टर.एआई’ नाम की कंपनी पर ऐसे ही मामले को लेकर ऐतिहासिक मुकदमा किया है। आरोप है कि इस कंपनी के चैटबॉट खुद को ‘लाइसेंस प्राप्त डॉक्टर’ बताकर लोगों की सेहत के साथ खिलवाड़ कर रहे हैं, क्योंकि चैटबॉट सिर्फ डेटा को दोहराते हैं। कोई नैतिकता नहीं होती है। जांचकर्ता ने पकड़ा झूठ पेंसिल्वेनिया का यह मामला पिछले दिनों तब खुला, जब एक जांच अधिकारी ने इस प्लेटफॉर्म पर ‘साइकियाट्री’ (मनोचिकित्सा) सर्च किया। वहां उसे एक ऐसा ‘कैरेक्टर’ मिला, जिसने दावा किया कि वह एक डॉक्टर है। इस मामले से अचंभित प्रांत के गवर्नर जोश शापिरो ने कहा, ‘पेंसिल्वेनिया के लोग यह जानने के हकदार हैं कि वे इंसान से बात कर रहे हैं या मशीन से। हम एआई को डॉक्टरी के नाम पर लोगों को गुमराह करने की इजाजत नहीं देंगे।’ तकनीक दवा नहीं हो सकती एआई के इस ‘डॉक्टर अवतार’ का काला पक्ष भयावह है। हाल ही में एक महिला ने गूगल और कैरेक्टर एआई पर मुकदमा किया। इसमें आरोप था कि चैटबॉट ने उसके किशोर बेटे को आत्महत्या के लिए उकसाया था। कारनेगी मेलन यूनिवर्सिटी के एथिक्स एक्सपर्ट डेरेक लेबेन कहते हैं, ‘यह मामला पूरी दुनिया के लिए नजीर बनेगा कि क्या एआई को ‘मेडिकल प्रैक्टिस’ का दोषी माना जा सकता है।’ वहीं, कॉमन सेंस मीडिया की अमीना फजलुल्लाह का कहना है कि सोशल मीडिया की तरह एआई की स्व-नियमन प्रणाली भी फेल साबित हो रही है, जिससे बच्चों और मानसिक रूप से कमजोर लोगों को सबसे ज्यादा खतरा है। असली का भ्रम: जांच में एआई कंपनी का झूठ सामने आया अमेरिका के कैरेक्टर टेक्नोलॉजीज इंक (कैरेक्टर एआई संचालक) पर ‘अवैध चिकित्सा प्रैक्टिस’ का आरोप लगाया गया है। पहली बार किसी एआई कंपनी पर ऐसा केस किया गया है। जांच में पाया गया था कि ‘एमिली’ नामक कैरेक्टर को ‘डॉक्टर ऑफ साइकियाट्री (मनोचिकित्सक) लेबल दिया गया था। एमिली ने झूठे दावे किए। एक लाइसेंस नंबर भी दिया, जो नकली था। इम्पीरियल कॉलेज लंदन से मेडिकल की पढ़ाई करने का दावा करते हुए कहा कि 7 साल का अनुभव है और ब्रिटेन में प्रैक्टिस करती हूं।
Source link
