आर्टिफिशियल इंटेलिजेंस यानी AI अब तेजी से हर सेक्टर में इस्तेमाल हो रहा है. बड़ी-बड़ी कंपनियां रिपोर्ट लिखने से लेकर रिसर्च और डेटा एनालिसिस तक के लिए AI का सहारा ले रही हैं. लेकिन अब AI के इस्तेमाल से जुड़ा एक बड़ा मामला सामने आया है. दुनिया की सबसे बड़ी प्रोफेशनल सर्विस कंपनियों में शामिल PwC पर आरोप है कि उसने ऐसी रिपोर्ट्स पब्लिश कीं जिनमें AI की वजह से कई गलत जानकारियां शामिल थीं.
इसके बाद कंपनी को आलोचना का सामना करना पड़ रहा है. हाल ही में इस मामले की रिपोर्ट फाइनांशियल टाइम्स ने पब्लिश की है. रिपोर्ट के मुताबिक PwC ने मिडिल ईस्ट के लिए कई थॉट लीडरशिप रिपोर्ट तैयार की थीं. इन रिपोर्ट्स का मकसद कंपनियों और ग्राहकों को नई टेक्नोलॉजी और बिजनेस ट्रेंड्स के बारे में जानकारी देना था. कई जानकारियां ऐसी थीं जो कहीं उपलब्ध ही नहीं हैं और गलत हैं. बाद में पता चला कि पूरी रिपोर्ट AI से तैयार कराई गई थी और बवाल मच गया.
यह भी पढ़ें: 22 साल का ये भारतीय GenZ बन गया अरबपति, बना दिया ऐसा ऐप जो देश भर में हुआ पॉपुलर
बाद में ये भी पता चला कि इनमें कई ऐसी बातें थीं जो सही नहीं थीं या जिनका कोई भरोसेमंद सोर्स नहीं था. जांच में सामने आया कि इन गलतियों की वजह AI से तैयार किया गया कंटेंट था.
What is AI Hallucination? एआई हैलुसिनेशन क्या है, जानिए
इस मामले में अब ये कहा जा रहा है कि AI Hallucination की वजह से रिपोर्ट में कई गड़बड़ियां पाई गई हैं. इसका मतलब है कि AI कभी-कभी पूरी तरह गलत जानकारी को भी सही मानकर लिख देता है. कई बार वह ऐसे आंकड़े, रिसर्च, लोगों के नाम या घटनाएं भी बना देता है जो असल में मौजूद ही नहीं होतीं. अगर इंसान उस जानकारी की जांच नहीं करता, तो वही गलत बातें रिपोर्ट का हिस्सा बन जाती हैं.
आम तौर पर एआई आपके हर सवाल का जवाब देने की कोशिश करता है. अगर उसका जवाब एआई के पास नहीं है तो भी वो कुछ रिलेटेड चीज आपको बताता है. कई बार गलत फैक्ट्स को इस तरह से एआई पेश करता है कि लोगों को यकीन हो जाता है कि वही फैक्ट सही है. इसके लिए गलत सोर्स भी कोट कर देता है.
PwC ने क्या किया?
FT की रिपोर्ट के अनुसार, गलती सामने आने के बाद PwC ने संबंधित रिपोर्ट्स को अपनी वेबसाइट से हटा दिया. कंपनी का कहना है कि वह इस मामले की समीक्षा कर रही है और अपनी कंटेंट तैयार करने के प्रोसेस को और मजबूत बनाएगी ताकि फ्यूचर में ऐसी गलती दोबारा न हो.
यह भी पढ़ें: Claude, ChatGPT, Gemini… AI कंपनियों ने अपने चैटबॉट्स के ये नाम आखिर क्यों रखे?
सिर्फ PwC ही नहीं, कई कंपनियां कर चुकी हैं ऐसी गलती
AI की गलत जानकारी का यह पहला मामला नहीं है. पिछले कुछ समय में कई बड़ी कंपनियां AI से जुड़ी ऐसी गलतियों का सामना कर चुके हैं. कई बार AI ऐसे जवाब देता है जो पढ़ने में बिल्कुल सही लगते हैं, लेकिन उनमें तथ्य गलत होते हैं. इसी वजह से एक्सपर्ट लगातार कह रहे हैं कि AI का इस्तेमाल करते समय इंसानी जांच बहुत जरूरी है.
कंपनियों के लिए बड़ा सबक
अब दुनिया भर की कंपनियां AI का इस्तेमाल रिपोर्ट, रिसर्च, ईमेल और दस्तावेज तैयार करने में कर रही हैं. ऐसे में अगर बिना जांच के AI पर भरोसा किया जाए, तो गलत जानकारी सीधे ग्राहकों तक पहुंच सकती है. इससे कंपनी की साख पर भी असर पड़ सकता है.
क्या AI पर भरोसा नहीं करना चाहिए?
एक्सपर्ट्स का कहना है कि AI एक उपयोगी टूल है, लेकिन इसे अंतिम सच नहीं माना जा सकता. AI से कंटेंट तैयार किया जा सकता है, लेकिन उसे प्रकाशित करने से पहले इंसानों को हर तथ्य की जांच करनी चाहिए. खासकर रिसर्च, मेडिकल, कानूनी और फाइनेंस जैसे क्षेत्रों में बिना वेरिफिकेशन के AI का इस्तेमाल जोखिम भरा हो सकता है.
PwC का यह मामला एक बार फिर याद दिलाता है कि AI काम को तेज जरूर बना सकता है, लेकिन उसकी हर बात सही हो, यह जरूरी नहीं है. इसलिए आने वाले समय में AI के साथ इंसानी निगरानी पहले से ज्यादा महत्वपूर्ण होने वाली है.
—- समाप्त —-
