CJI Gavai on AI misuse:

नई दिल्ली, एजेंसियां। आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते दुरुपयोग ने न्यायपालिका के शीर्ष अधिकारियों को भी चिंतित कर दिया है। भारत के चीफ जस्टिस (CJI) बी.आर. गवई ने सोमवार को कहा कि न्यायपालिका के लोग भी मॉर्फ्ड तस्वीरों और AI से उत्पन्न सामग्री के शिकार हो रहे हैं। उन्होंने यह बात एक जनहित याचिका (PIL) पर सुनवाई के दौरान कही, जिसमें जेनेरेटिव AI (GenAI) के इस्तेमाल को नियंत्रित करने के लिए नीतिगत निर्देश जारी करने की मांग की गई थी।

सीजेआई गवई ने बताया:

सीजेआई गवई ने बताया, “हमने भी अपनी मॉर्फ्ड तस्वीरें देखी हैं।” उन्होंने स्पष्ट किया कि GenAI पर नियंत्रण की पहल न्यायपालिका से नहीं बल्कि कार्यपालिका के माध्यम से होनी चाहिए। उनके साथ सुनवाई कर रहे जस्टिस विनोद चंद्रन ने भी इस मामले को पूरी तरह नीतिगत मानते हुए अदालत की सीमाओं में हस्तक्षेप करने से परहेज किया। अदालत ने सुनवाई को दो हफ्तों के लिए स्थगित कर दिया।

याचिका में केंद्र सरकार:

याचिका में केंद्र सरकार से निर्देश देने की मांग की गई थी ताकि न्यायिक और अर्ध-न्यायिक संस्थाओं में GenAI के इस्तेमाल के लिए स्पष्ट नियम और नीति बनाई जा सके। याचिकाकर्ताओं का कहना है कि GenAI मॉडल ब्लैक बॉक्स की तरह काम करते हैं, जिससे कानूनी और नैतिक उलझनें पैदा हो सकती हैं। इसके अलावा, ये मॉडल पूर्वाग्रह बढ़ा सकते हैं और हाशिए पर रहने वाले समुदायों के अधिकारों का उल्लंघन कर सकते हैं।

याचिका में यह भी दी चेतावनी:

याचिका में यह भी चेतावनी दी गई कि डेटा की सुरक्षा, निष्पक्षता और मालिकाना हक के स्पष्ट नियम न होने पर नागरिकों के जानने के अधिकार (Article 19(1)(a)) और अदालती दस्तावेजों की सुरक्षा पर गंभीर खतरा है। इसके अलावा, AI प्लेटफॉर्म पर साइबर हमलों का जोखिम भी बढ़ सकता है, खासकर यदि अदालत के दस्तावेज और प्रक्रियाएं ऑटोमेटेड सिस्टम में शामिल हों।यह मामला AI के उपयोग और नियमन की कानूनी और सामाजिक चुनौतियों पर न्यायपालिका में पहली बार गंभीर ध्यान केंद्रित करने वाला मामला है।