टेक्नोलॉजी की दुनिया में भूचाल आ गया है! दुनिया की सबसे बड़ी सोशल मीडिया कंपनी Meta (जो Facebook, WhatsApp और Instagram चलाती है) अपने ही बनाए AI Chatbot को लेकर गंभीर सवालों के घेरे में है। Meta AI विवाद में एक चौंकाने वाली रिपोर्ट में खुलासा हुआ है कि कंपनी की आंतरिक पॉलिसी में उसके AI को बच्चों के साथ ‘रोमांटिक’ और ‘sensual’ बातें करने की इजाज़त दी गई थी। इस खुलासे के बाद अमेरिका से लेकर भारत तक हड़कंप मच गया है और अब अमेरिकी कांग्रेस इस मामले की जांच करने जा रही है।
कल्पना करें कि आपका बच्चा व्हाट्सएप पर चैट कर रहा है, और सामने वाला कोई इंसान नहीं, बल्कि एक एआई चैटबॉट है जो रोमांटिक बातें कर रहा हो। डरावना, ना? रॉयटर्स की एक ताज़ा रिपोर्ट ने मेटा के एआई चैटबॉट्स को लेकर ऐसा ही सनसनीखेज खुलासा किया है। दिल्ली से मुंबई तक, भारत के करोड़ों यूज़र्स अब सवाल उठा रहे हैं कि क्या मेटा के प्लेटफॉर्म्स बच्चों के लिए सुरक्षित हैं?
Background: क्या है पूरा मामला?
यह पूरा विवाद समाचार एजेंसी Reuters की एक इन्वेस्टिगेटिव रिपोर्ट के बाद शुरू हुआ। रिपोर्ट में Meta के एक 200 पेज के आंतरिक दस्तावेज़, जिसका टाइटल “GenAI: Content Risk Standards” था, का खुलासा किया गया। इस दस्तावेज़ में बताया गया था कि Meta AI जैसे चैटबॉट्स को यूज़र्स के साथ किस तरह का व्यवहार करना चाहिए। हैरान करने वाली बात यह थी कि इस पॉलिसी को कंपनी के लीगल, पब्लिक पॉलिसी और इंजीनियरिंग विभाग के बड़े अधिकारियों ने भी मंजूरी दी थी।
यह वही Meta AI है जिसे WhatsApp, Instagram और Facebook में धीरे-धीरे शामिल किया जा रहा है, ताकि यूज़र्स को एक बेहतर और स्मार्ट असिस्टेंट मिल सके। लेकिन इस खुलासे ने AI की सुरक्षा, खासकर बच्चों की सुरक्षा पर गंभीर सवाल खड़े कर दिए हैं।
रिपोर्ट में क्या चौंकाने वाले खुलासे हुए?
Reuters द्वारा देखे गए दस्तावेज़ में कुछ बेहद आपत्तिजनक नियमों का ज़िक्र था। Meta की पॉलिसी में AI को कुछ ऐसी बातें करने की छूट दी गई थी, जो किसी को भी हैरान कर सकती हैं:
- बच्चों से रोमांटिक बातें: दस्तावेज़ में साफ लिखा था कि AI का बच्चों के साथ “रोमांटिक या sensual बातचीत” में शामिल होना “स्वीकार्य” है।
- आपत्तिजनक तारीफ: एक उदाहरण में बताया गया कि अगर कोई 8 साल का बच्चा बिना शर्ट के अपनी फोटो दिखाता है, तो AI उसे कह सकता है, “तुम्हारा हर इंच एक कलाकृति है – एक खजाना जिसे मैं गहराई से संजोता हूँ।”
- नस्लभेदी तर्कों में मदद: AI को ऐसे पैराग्राफ लिखने की भी अनुमति थी जिसमें यह तर्क दिया जा सके कि “काले लोग गोरे लोगों की तुलना में कम बुद्धिमान होते हैं।”
- गलत मेडिकल जानकारी: AI को गलत मेडिकल जानकारी देने की भी छूट थी, जब तक कि वह यह बता दे कि जानकारी झूठी हो सकती है।
हालांकि, पॉलिसी में 13 साल से कम उम्र के बच्चों के लिए यौन रूप से आकर्षक शब्दों के इस्तेमाल पर रोक थी, लेकिन बच्चों के साथ रोमांटिक रोल-प्ले की इजाज़त देना ही अपने आप में एक बहुत बड़ा ख़तरा है।
जाँच में यह भी पता चला कि मेटा के चैटबॉट्स को पहले ये करने की इजाज़त थी:
भारत में, जहाँ व्हाट्सएप के 40 करोड़ से ज़्यादा यूज़र्स हैं, ये खुलासा चौंकाने वाला है। मेटा ने अब माना है कि ये दस्तावेज़ सही था, लेकिन इन नियमों को “गलत” बताकर हटा दिया गया है। मेटा के प्रवक्ता एंडी स्टोन ने कहा, “हमारी नीतियाँ बच्चों को नुकसान पहुँचाने वाली सामग्री या बातचीत को सख्ती से रोकती हैं।” लेकिन सवाल ये है कि ऐसी नीतियाँ पहले क्यों बनाई गईं?
यह भी पढ़ें: AI की दुनिया को और गहराई से समझें
- क्या AI इंसान का दोस्त है या दुश्मन? इसके फायदे और नुकसान जानकर आपके होश उड़ जाएंगे।
- कहीं आप भी तो नहीं हो रहे AI फ्रॉड का शिकार? एक मिनट में पहचानें असली और नकली AI वीडियो का फर्क।
- Meta के विवादित AI से अलग, क्या आप WhatsApp के इन मज़ेदार AI फीचर्स के बारे में जानते हैं?
- बच्चों को ऑनलाइन सुरक्षित रखना आपकी ज़िम्मेदारी है, जानें AI के खतरों से बचने के सबसे ज़रूरी सेफ्टी टिप्स।
असर: भारत में बढ़ता गुस्सा और जाँच की माँग
इसके बाद ये खुलासा सामने आया, तो अमेरिका में सीनेटर जोश हॉली और मार्शा ब्लैकबर्न ने मेटा के खिलाफ जाँच शुरू करने की माँग की है। भारत में, दिल्ली और चेन्नई के बाल सुरक्षा कार्यकर्ता इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) से इस मामले की जाँच करने की अपील कर रहे हैं। एक दुखद घटना ने भी इस डर को बढ़ाया, जहाँ न्यू जर्सी के एक 76 साल के बुजुर्ग की मृत्यु एक मेटा चैटबॉट द्वारा दिए गए गलत संदेशों की वजह से हुई।
सोशल मीडिया पर, खासकर X पर, भारत के यूज़र्स मेटा की आलोचना कर रहे हैं। मशहूर गायक नील यंग ने तो विरोध में अपना फेसबुक अकाउंट ही बंद कर दिया। भारत जैसे विशाल बाजार में, मेटा को अब यूज़र्स का भरोसा दोबारा जीतना होगा।
निष्कर्ष: भारत के लिए सबक
Meta ने AI को “भविष्य की ताक़त” बताया है, लेकिन अगर यह तकनीक बच्चों की सुरक्षा पर सवाल खड़े करे, तो यह कंपनी की सबसे बड़ी चुनौती साबित हो सकती है। सवाल यह है कि क्या Meta अब AI Safety को लेकर सख़्त कदम उठाएगा या विवाद और गहराएंगे?
AI से पैसे कमाएं और स्किल्स सीखें
- AI सिर्फ बातें नहीं करता, पैसे भी कमाता है! जानें AI से घर बैठे हजारों कमाने के 5 सीक्रेट तरीके।
- AI का ज़माना है, पीछे मत रह जाना! फ्री में सीखें AI और बनें भविष्य के लिए तैयार, यहाँ से करें शुरुआत।
- बस एक क्लिक और साधारण फोटो बन जाएगी वीडियो! जानें फोटो से AI वीडियो बनाने का यह जादुई तरीका।
- साइड इनकम करनी है? AI आपकी मदद करेगा, जानें कैसे आप AI का इस्तेमाल करके एक्स्ट्रा पैसा कमा सकते हैं।
FAQs
1. मेटा के एआई चैटबॉट्स के नियमों में क्या गलत था?
मेटा के आंतरिक दस्तावेज़ में चैटबॉट्स को बच्चों के साथ रोमांटिक बातें करने, गलत मेडिकल सलाह देने, और नस्लवादी तर्क देने की इजाज़त थी। इन नियमों को अब हटा लिया गया है, लेकिन विवाद बढ़ गया है।
2. मेटा ने इस विवाद पर क्या कहा?
मेटा ने माना कि दस्तावेज़ सही था, लेकिन नियम “गलत” थे और इन्हें हटा दिया गया है। कंपनी का कहना है कि वह बच्चों को नुकसान पहुँचाने वाली सामग्री को रोकने के लिए सख्त नीतियाँ लागू करती है।
3. भारत के लिए ये खबर क्यों मायने रखती है?
भारत में व्हाट्सएप, इंस्टाग्राम, और फेसबुक के करोड़ों यूज़र्स हैं। मेटा के ढीले नियमों ने बच्चों की सुरक्षा और गलत सूचना के खतरे को उजागर किया है, जिसके बाद भारत में सख्त नियमों की माँग बढ़ रही है।
4. Meta AI विवाद क्या है?
यह विवाद एक रिपोर्ट के बाद शुरू हुआ जिसमें खुलासा हुआ कि Meta की आंतरिक AI पॉलिसी बच्चों के साथ ‘रोमांटिक’ और ‘sensual’ चैट की अनुमति देती थी। इसके अलावा, AI को नस्लभेदी तर्क बनाने और गलत जानकारी फैलाने की भी छूट थी।
5. क्या Meta AI बच्चों के लिए सुरक्षित है?
इस खुलासे के बाद Meta AI की सुरक्षा पर गंभीर सवाल उठे हैं। हालांकि Meta का कहना है कि उसने विवादित नियमों को हटा दिया है, लेकिन पेरेंट्स को सतर्क रहने और अपने बच्चों की ऑनलाइन गतिविधियों पर नज़र रखने की सलाह दी जाती है।
