सुर्ख़ियों में क्यों?

हाल ही में, केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 (IT नियम 2021) में संशोधन का प्रस्ताव रखा है। इसका उद्देश्य डीपफेक सहित कृत्रिम रूप से तैयार की गई सूचनाओं के दुरुपयोग को रोकना है। 

अन्य संबंधित तथ्य 

• ये संशोधित नियम 15 नवंबर, 2025 से प्रभावी होंगे। इन्हें सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) संशोधन नियम, 2025 कहा जाएगा। 
  • प्रस्तावित संशोधनों का उद्देश्य मध्यवर्तियों के लिए निर्धारित किए गए उचित दायित्वों को अधिक मजबूत करना है। इन मध्यवर्तियों में विशेष रूप से सोशल मीडिया मध्यवर्ती (SMI) और महत्वपूर्ण सोशल मीडिया मध्यवर्ती (SSMI) शामिल हैं। 

सूचना प्रौद्योगिकी (मध्यवर्ती दिशा-निर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 के बारे में

• इन नियमों को मूल रूप से 2021 में अधिसूचित किया गया था तथा बाद में इन्हें 2022 और 2023 में संशोधित किया गया था। ये नियम निम्नलिखित को निर्धारित करते हैं- 
  • समाचार और समसामयिक विषयों के कंटेंट तथा ध्यानपूर्वक चयनित और व्यवस्थित ऑडियो-विजुअल कंटेंट के ऑनलाइन प्रकाशकों द्वारा संबंधित कंटेंट के विनियमन हेतु रूपरेखा। 
  • ऑनलाइन सुरक्षा, संरक्षा और जवाबदेही सुनिश्चित करने के उद्देश्य से SMIs सहित मध्यवर्तियों के लिए उचित दायित्व। 
• SMIs और SSMIs को निम्नलिखित रूप में परिभाषित किया गया है: 
  • SMI का अर्थ एक ऐसे मध्यस्थ से है, जो मुख्यतः या पूर्णतः दो या अधिक उपयोगकर्ताओं के बीच ऑनलाइन इंटरेक्शन को सक्षम बनाता है। साथ ही, यह उपयोगकर्ताओं को अपनी सेवाओं का उपयोग करके जानकारी तैयार करने, अपलोड करने, साझा करने, प्रसारित करने, संशोधित करने या उस तक पहुंच को आसान बनाता है। 
  • SSMIs का अर्थ एक ऐसे सोशल मीडिया मध्यस्थ से है, जिसके भारत में पंजीकृत उपयोगकर्ताओं की संख्या केंद्र सरकार द्वारा अधिसूचित सीमा से अधिक है। 

प्रस्तावित संशोधनों की मुख्य विशेषताएं

AI-जनित कंटेंट की पहचान करने में आने वाली चुनौतियां

• मानदंडों का अभाव: मानकीकृत मानदंडों के अभाव के कारण मौजूदा AI डिटेक्टर में त्रुटि की दर अधिक हो जाती है। इसके कारण अक्सर फॉल्स पॉजिटिव (मानव जनित कंटेंट को AI-जनित बता देना) या ट्रू नेगेटिव (AI-जनित कंटेंट को पहचानने में असफल रहना) जैसे परिणाम सामने आते हैं। 
• क्षमता का अभाव: AI-जनित कंटेंट की मात्रा अधिकांश पहचान प्रणालियों की प्रसंस्करण और भंडारण क्षमताओं से अधिक है। इसके अतिरिक्त, पहचान प्रणाली के विस्तार से वित्तीय चुनौतियां उत्पन्न होंगी।
• अनामिता: AI-जनित कंटेंट/ डीपफेक को बिना पहचान बताए बनाया जा सकता है या इसे विदेशी सर्वरों पर जारी किया जा सकता है। इसके अलावा, एकीकृत कानूनों या नियामक तंत्र का अभाव दूसरे देशों के जरिये किए जाने वाले सत्यापनों और ट्रेस करने की क्षमता में बाधा डालता है।
• दृश्यता: जनरेटिव AI (GenAI) द्वारा सृजित कंटेंट मानव-निर्मित कंटेंट के साथ सहजता से मिश्रित हो जाता है। इससे पता लगाने वाली प्रणालियों के लिए पहचान करना कठिन हो जाता है।  

o उदाहरण के लिए, मिडजर्नी, डॉल-ई (DALL-E) और स्टेबल डिफ्यूज़न जैसे टूल्स वास्तविक प्रतीत होने वाले चित्र उत्पन्न कर सकते हैं। अतः अक्सर AI-जनित चित्रों में भेद करना कठिन हो जाता है।  

• नवाचार और गोपनीयता का संतुलन: पहचान तंत्र अक्सर मेटाडेटा ट्रैकिंग के कारण गोपनीयता संबंधी चिंताएं उत्पन्न करते हैं। कठोर विनियमन AI नवाचार को बाधित कर सकता है, जबकि अपर्याप्त विनियमन गलत सूचना के अनियंत्रित प्रसार का जोखिम उत्पन्न करता है। 

आगे की राह

• डिजिटल फ्रेमवर्क: AI-जनित कंटेंट की पहचान के लिए तीन स्तंभों के आधार पर एक टिकाऊ समाधान विकसित किया जा सकता है: 

o   आधार के समान एक डिजिटल प्रोवेनेंस फ्रेमवर्क स्थापित करना, जिसमें कंटेंट को प्रमाणित करने के लिए अदृश्य लेकिन सत्यापन योग्य हस्ताक्षर शामिल हों। 

o  उत्तरदायित्व निर्धारण की विभिन्न स्तरित व्यवस्था लागू करना, जो सिंथेटिक मीडिया प्रबंधित करने वाले प्लेटफार्मों की भूमिका एवं प्रभाव के आधार पर दायित्व निर्धारित करे। 

o   AI साक्षरता को बढ़ावा देना, ताकि नागरिक हेरफेर को पहचानने में सक्षम हो सकें।

• शासन संबंधी संरचना: गोपनीयता और नैतिक विचारों को संतुलित करते हुए, AI कंटेंट की पहचान को सुदृढ़ करने हेतु नियामक संरचनाएं, मानकीकृत तकनीकी प्रोटोकॉल और मजबूत निगरानी तंत्र विकसित किया जाना चाहिए।
• वॉटरमार्किंग: AI वॉटरमार्किंग, एक समाधान प्रदान कर सकता है। इसमें AI-जनित कंटेंट में अमिट चिह्न लगाए जाते हैं, जो कंटेंट की उत्पत्ति एवं संपूर्णता को डिजिटल हस्ताक्षर के रूप में प्रमाणित करते हैं।

o   उदाहरण के लिए, चीन द्वारा लागू किया गया अनिवार्य AI लेबलिंग नियम।

• AI-जनित कंटेंट की पहचान के लिए वैश्विक मानक स्थापित करना: घरेलू प्रणालियों को अंतर्राष्ट्रीय मानदंडों के अनुरूप बनाने हेतु कदम उठाए जाने चाहिए। साथ ही, AI इकोसिस्टम में सुदृढ़ और अनुकूल शासन सुनिश्चित करने के लिए नीतियों की समय-समय पर समीक्षा की जानी चाहिए।
• बहु-हितधारक दृष्टिकोण: AI-जनित कंटेंट की पहचान के लिए सर्वोत्तम प्रथाओं को अपनाने और उन्हें साझा करने हेतु प्रयास करने चाहिए। इसके लिए सरकारी निकायों, उद्योग प्रतिनिधियों, शिक्षाविदों और नागरिक समाज के साथ परामर्श में सक्रिय रूप से शामिल होकर एक बहु-हितधारक दृष्टिकोण अपनाया जाना चाहिए।

निष्कर्ष

जैसे-जैसे भारत AI शासन के युग में कदम रख रहा है, घरेलू नियमों को वैश्विक मानकों के साथ सामंजस्य स्थापित करना, नवाचार-अनुकूल सुरक्षा उपायों को बढ़ावा देना और सार्वजनिक AI साक्षरता को बढ़ावा देना महत्वपूर्ण होता जा रहा है। इससे एक सुरक्षित एवं भरोसेमंद ऑनलाइन स्पेस का निर्माण होगा, जो रचनात्मकता और सुरक्षा दोनों को अनुरक्षित रखेगा।