आर्टिफिशियल इंटेलिजेंस कंपनी Anthropic की एक नई स्टडी में सामने आया है कि लोग अब AI चैटबॉट की सलाह पर बिना सवाल किए भरोसा करने लगे हैं। खासतौर पर Claude नाम के एआई चैटबॉट के साथ बातचीत करने वाले कई यूजर्स अपनी सोच और फैसलों को नजरअंदाज कर मशीन की बात मानने लगे हैं। इस अध्ययन में करीब 15 लाख वास्तविक और गुमनाम बातचीत का विश्लेषण किया गया। रिपोर्ट के अनुसार, हर 1300 बातचीत में एक मामला ऐसा पाया गया, जिसमें यूजर की सोच वास्तविकता से भटकती दिखी। वहीं, हर 6000 बातचीत में एक यूजर ऐसा था, जिसने एआई की बात मानकर गलत कदम उठाया।
गलत धारणाएं सही
Anthropic ने बताया कि कुछ मामलों में एआई यूजर्स की गलत धारणाओं को सही ठहराने लगता है, जैसे साजिश सिद्धांतों पर भरोसा दिलाना, रिश्तों को लेकर भ्रम पैदा करना या व्यक्ति को अपने मूल्यों के खिलाफ काम करने के लिए प्रेरित करना। इसे “रियलिटी डिस्टॉर्शन”, “बिलीफ डिस्टॉर्शन” और “एक्शन डिस्टॉर्शन” कहा गया है।
कंपनी के अनुसार, भले ही ऐसे मामले प्रतिशत में कम हैं, लेकिन AI के बढ़ते इस्तेमाल को देखते हुए यह एक गंभीर समस्या बन सकती है। रिपोर्ट में यह भी बताया गया कि ऐसे मामले धीरे-धीरे बढ़ रहे हैं। हर 50 से 70 बातचीत में हल्के स्तर का “डिसएम्पावरमेंट” देखा गया, जिसमें व्यक्ति की स्वतंत्र सोच कमजोर हो जाती है।
निजी फैसलों के लिए एआई पर निर्भर
शोध में पाया गया कि जो यूजर्स बार-बार निजी और भावनात्मक फैसलों के लिए एआई पर निर्भर रहते हैं, वे ज्यादा प्रभावित होते हैं। शुरुआत में उन्हें यह मदद अच्छी लगती है, लेकिन बाद में पछतावा होता है। इस अध्ययन के बाद “एआई साइकोसिस” को लेकर भी चिंता बढ़ी है, जिसमें लोग लंबे समय तक चैटबॉट से बात करने के बाद भ्रम और तनाव का शिकार हो जाते हैं। पहले भी कई मामलों में मानसिक स्वास्थ्य पर इसके असर की बात सामने आ चुकी है। विशेषज्ञों का कहना है कि एआई एक उपयोगी साधन है, लेकिन उस पर पूरी तरह निर्भर होना खतरनाक हो सकता है। इसलिए जरूरी है कि लोग अपनी समझ और विवेक का इस्तेमाल करते हुए ही तकनीक का उपयोग करें।