ChatGPT update
नई दिल्ली, एजेंसियां। आर्टिफिशियल इंटेलिजेंस के तेजी से बढ़ते इस्तेमाल के बीच बच्चों और टीनएज यूज़र्स की ऑनलाइन सुरक्षा एक बड़ी चुनौती बनती जा रही है। इसी को ध्यान में रखते हुए अमेरिकी एआई कंपनी OpenAI ने अपने लोकप्रिय चैटबॉट ChatGPT में Age Prediction नाम का नया फीचर लाने की घोषणा की है। इस फीचर का उद्देश्य 18 साल से कम उम्र के यूज़र्स की पहचान कर उनके लिए सुरक्षित और सीमित कंटेंट उपलब्ध कराना है।
क्या है Age Prediction फीचर का मकसद
OpenAI के अनुसार, यह फीचर उन यूज़र्स की उम्र का अनुमान लगाएगा, जिन्होंने साइन-अप के समय अपनी उम्र साझा नहीं की है। यदि सिस्टम को यह संकेत मिलता है कि कोई यूज़र 18 वर्ष से कम उम्र का है, तो उसके अकाउंट पर अपने-आप टीन सेफ्टी सेटिंग्स लागू हो जाएंगी। इससे नाबालिग यूज़र्स को नुकसानदायक या अनुचित कंटेंट से बचाया जा सकेगा, जबकि वयस्क यूज़र्स को सामान्य एक्सेस मिलता रहेगा।
कैसे करेगा काम नया सिस्टम
Age Prediction मॉडल यूज़र की गतिविधियों, बातचीत के पैटर्न, इस्तेमाल की शैली और समय के साथ व्यवहार का विश्लेषण कर उम्र का अनुमान लगाएगा। जैसे ही सिस्टम को लगेगा कि यूज़र नाबालिग हो सकता है, उसके लिए कई तरह का कंटेंट ब्लॉक कर दिया जाएगा। इसमें ग्राफिक हिंसा, खतरनाक वायरल चैलेंज, सेक्सुअल या हिंसक रोल-प्ले, सेल्फ-हार्म, बॉडी शेमिंग और संवेदनशील विषय शामिल हैं।
पैरेंटल कंट्रोल और अतिरिक्त सेफ्टी
इस फीचर के तहत पैरेंट्स को भी ज्यादा नियंत्रण मिलेगा। वे बच्चों के लिए ‘क्वाइट आवर्स’ तय कर सकते हैं, मेमोरी और मॉडल ट्रेनिंग जैसी सुविधाओं को सीमित कर सकते हैं। यदि किसी टीन यूज़र में मानसिक तनाव या परेशानी के संकेत मिलते हैं, तो पैरेंट्स को नोटिफिकेशन भी भेजा जा सकता है।
वेरिफिकेशन की सुविधा
OpenAI ने स्पष्ट किया है कि अगर गलती से किसी एडल्ट यूज़र को टीन कैटेगरी में डाल दिया जाता है, तो वह सुरक्षित पहचान सत्यापन के जरिए अपनी उम्र प्रमाणित कर फुल एक्सेस वापस पा सकता है। कंपनी का कहना है कि यह मॉडल समय के साथ और अधिक सटीक होता जाएगा, जिससे बच्चों की डिजिटल सुरक्षा और मजबूत होगी।
