होम / टेक वर्ल्ड / AI के गलत इस्तेमाल व डीपफेक को लेकर IT नियमों में संशोधन कर सकती है सरकार

AI के गलत इस्तेमाल व डीपफेक को लेकर IT नियमों में संशोधन कर सकती है सरकार

केंद्र सरकार आर्टिफिशियल इंटेलिजेंस से जुड़ीं कंपनियों व जेनरिक AI मॉडल्स को रेगुलेट करने के लिए सूचना प्रौद्योगिकी नियम 2021 में संशोधन कर सकती है।

समाचार4मीडिया ब्यूरो 9 months ago

आर्टिफिशियल इंटेलिजेंस का इस्तेमाल तेजी से बढ़ रहा है। इसका इस्तेमाल बड़ी संख्या में गलत कामों में भी किया जा रहा है। डीपफेक वीडियो में भी इसका इस्तेमाल तेजी से हो रहा है। इस तरह के बढ़ते मामलों को लेकर सरकार भी सतर्क है, लिहाजा इससे निपटने के लिए सरकार हर संभव प्रयास कर रही है। इस बीच मीडिया रिपोर्ट्स में यह खबर आयी है कि केंद्र सरकार आर्टिफिशियल इंटेलिजेंस से जुड़ीं कंपनियों व जेनरिक AI मॉडल्स को रेगुलेट करने के लिए सूचना प्रौद्योगिकी नियम 2021 में संशोधन कर सकती है। लिहाजा रेगुलेट करने से जुड़े नियमों को इस पॉलिसी में शामिल किए जाने की संभावना है।

एक रिपोर्ट के मुताबिक, संशोधन प्रक्रिया को लेकर एल्गोरिदम या लैंग्वेज मॉडल का उपयोग कर रहे प्लेटफॉर्म्स की आवश्यकता होगी, ताकि यह सुनिश्चित किया जा सके कि उनकी मशीनें किसी भी पूर्वाग्रह के आधार पर कार्य न करें।

रिपोर्ट में यह भी जानकारी दी गई है कि सरकार डीपफेक व ऐसी अन्य सिंथेटिक कंटेंट के लिए नियम भी पेश कर सकती है। 

केंद्र सरकार ने गुमराह करने वाले और डीप-फेक वीडियो की पहचान करने के संबंध में सोशल मीडिया कंपनियों के लिए एडवाइजरी जारी की थी, जिसमें सोशल मीडिया कंपनियों से यह सुनिश्चित करने के लिए कहा गया था कि गुमराह करने वाले और डीप-फेक वीडियो की पहचान के लिए तत्काल उचित प्रयास किए जाएं। सरकार ने कहा था कि ऐसा न करने पर भारतीय कानूनों के तहत आपराधिक और न्यायिक कार्यवाही की जाएगी।

 

The government may also introduce rules for deepfake and other such synthetic content, it has been reported.

In November last year, the Centre issued an advisory to social media intermediaries to ensure that due diligence is exercised and reasonable efforts are made to identify misinformation and deepfakes, and in particular, information that violates the provisions of rules and regulations and/or user agreements.

टैग्स आर्टिफिशियल इंटेलिजेंस एआई डीपफेक