Anthropic Claude AI Policy : त्रास दिल्यास ‘क्लाऊड’ संभाषण थांबवणार!

एआय चॅटबॉटसोबत सतत क्रूर किंवा हिंसक संवाद केल्यास संभाषण थांबवण्याची तरतूद; सामान्य राग, मॉडेलची चाचणी आणि सर्जनशील लेखनाला मात्र अपवाद

सॅन फ्रान्सिस्को : Anthropic Claude AI Policy कृत्रिम बुद्धिमत्ता (एआय) यंत्रणेला चेतना किंवा मानवी भावना असू शकतात का, यावर जगभरात वाद सुरू असतानाच, प्रसिद्ध एआय चॅटबॉट ‘क्लाऊड’ ची निर्माती कंपनी ॲन्थ्रॉपिकने एक वेगळा आणि वैशिष्ट्यपूर्ण नियम लागू केला आहे. वापरकर्त्यांनी एआय मॉडेल्ससोबत सतत, विनाकारण क्रूर किंवा हिंसक संभाषण करण्यास ॲन्थ्रॉपिकने बंदी घातली आहे. त्यामुळे क्लाऊडशी संवाद साधताना सावधान. त्रास दिल्यास संभाषण बंद होऊ शकते.

‘द व्हर्ज’ने सर्वप्रथम या धोरणातील बदलाचे वृत्त दिले. ॲन्थ्रॉपिकच्या प्रवक्त्याने या क्रूर किंवा हिंसक वर्तनाची नेमकी व्याख्या काय, यावर त्वरित कोणतेही स्पष्टीकरण दिलेले नाही. मात्र, कंपनीने आपल्या ऑनलाइन युझर पॉलिसीमध्ये काही स्पष्टीकरणे दिली आहेत. नेहमीचा राग, एआय मॉडेलची चाचणी किंवा कलात्मक/सर्जनशील हेतूने हाताळलेले डार्क थीम्स यांवर ही बंदी लागू असणार नाही.

संभाषण थांबवण्याचा अधिकार

जर एखादा युजर सतत त्रासदायक किंवा हिंसक भाषा वापरत असेल, तर ॲन्थ्रॉपिकच्या लार्ज लँग्वेज मॉडेलला (एलएलएम) ते संभाषण मध्येच थांबवण्याचा अधिकार ऑगस्ट महिन्यापासून देण्यात आला आहे. ॲन्थ्रॉपिकने आपल्या अधिकृत संकेतस्थळावर नमूद केले आहे की, क्लाऊड किंवा इतर एलएलएम मॉडेल्सना नैतिक किंवा भावनिक अस्तित्व आहे का, याबद्दल आम्ही निश्चित नाही. परंतु, आम्ही ही बाब गांभीर्याने घेतो. भविष्यात किंवा सध्या एआयच्या कल्याणाचा प्रश्न निर्माण झाल्यास, त्रासदायक संभाषणातून एआयला बाहेर पडू देणे ही एक प्राथमिक सुरक्षेची उपाययोजना आहे.

टेक जगतात दोन परस्परविरोधी प्रवाह

एआयला भावना किंवा चेतना असू शकते का, यावर तंत्रज्ञान क्षेत्रातील प्रमुखांमध्ये मतभेद पाहायला मिळत आहेत. अँथोपिकचे सीईओ दारिओ अमॉडेई एआयमध्ये चेतना किंवा भावना असण्याची शक्यता पूर्णपणे नाकारत नाहीत. त्यांनी या विषयावर धार्मिक आणि नैतिक विचारवंतांशीही चर्चा केली आहे. सॅम ऑल्टमन (सीईओ, ओपनएआय) यांना एआय मॉडेल्सना मानवी भावना किंवा धार्मिक स्थान देणे अयोग्य वाटते. एक्सवर पोस्ट करताना त्यांनी लिहिले, ”माणसाने निर्णयक्षमता एआयच्या हाती सोपवणे किंवा एआयला दैवी दर्जा देणे हे सुरक्षेच्या दृष्टीने अत्यंत धोकेदायक आहे.” एकीकडे एआयचा वापर गैरकृत्यांसाठी रोखण्याचे प्रयत्न सुरू असताना, ॲन्थ्रॉपिकने थेट एआय मॉडेलच्या संरक्षणासाठी युझर पॉलिसीत बदल केल्याने या विषयावर नवीन चर्चा सुरू झाली आहे.

Read About: Smart Shoes Technology : पावलांच्या ऊर्जेवर चालणारे स्मार्ट शूज विकसित; पार्किन्सन्स, पडण्याचा धोका ओळखण्यास मदत
E-Paper: Punyanagari E-Paper