ओपनएआय कर्मचाऱ्यांना काही महिन्यांपूर्वी शालेय शूटरबद्दल कॅनेडियन पोलिसांना इशारा द्यायचा होता, कंपनीच्या पुनरावलोकन प्रणालीद्वारे चॅटजीपीटीशी तिचे संभाषण का ध्वजांकित केले गेले ते येथे आहे

वॉल स्ट्रीट जर्नलच्या अहवालानुसार, ब्रिटीश कोलंबियामध्ये एका 18 वर्षाच्या मुलाची शाळेतील एका प्राणघातक गोळीबारात संशयित म्हणून ओळख होण्याच्या काही महिन्यांपूर्वी सॅम ऑल्टमनच्या ओपनएआयने कॅनेडियन पोलिसांना चॅटजीपीटी संभाषणांना त्रासदायक करण्याबद्दल सावध करावे की नाही याबद्दल पुनरावलोकन केले आणि चर्चा केली. बंदुकीच्या हिंसाचाराच्या संदर्भासाठी OpenAI च्या अंतर्गत पुनरावलोकन प्रणालीद्वारे चॅटबॉटसह वापरकर्त्याच्या परस्परसंवादांना ध्वजांकित केल्यानंतर चर्चा झाली. काही कर्मचाऱ्यांनी कायद्याच्या अंमलबजावणीसाठी अधिसूचित होण्यासाठी दबाव आणला असताना, कंपनीच्या नेत्यांनी शेवटी निर्णय घेतला की क्रियाकलाप प्राधिकरणांशी संपर्क साधण्यासाठी आवश्यक असलेल्या उंबरठ्याची पूर्तता करत नाही, अहवालात म्हटले आहे.

OpenAI च्या पुनरावलोकन प्रणालीद्वारे ध्वजांकित केलेली संभाषणे

WSJ नुसार, नंतर कॅनेडियन पोलिसांनी जेसी व्हॅन रूटसेलार म्हणून ओळखल्या जाणाऱ्या वापरकर्त्याने गेल्या वर्षी जूनमध्ये चॅटजीपीटीचा वापर अनेक दिवसांपासून बंदुक असलेल्या हिंसक परिस्थितीचे वर्णन करण्यासाठी केला होता. ओपनएआयच्या स्वयंचलित मॉनिटरिंग टूल्सद्वारे संभाषण ध्वजांकित केले गेले होते, जे वास्तविक-जगातील हानीचे संभाव्य धोके शोधण्यासाठी डिझाइन केलेले आहेत.ध्वजांकित सामग्रीने अंतर्गत चिंता निर्माण केली. सुमारे डझनभर ओपनएआय कर्मचाऱ्यांनी कथितरित्या चर्चा केली की पोस्टने विश्वासार्ह धोका सुचवला आहे. काही कर्मचाऱ्यांचा असा विश्वास होता की संभाषणे संभाव्य वास्तविक-जगातील हिंसाचार दर्शवू शकतात आणि वरिष्ठ नेत्यांना कॅनेडियन कायद्याची अंमलबजावणी कळवण्याचे आवाहन केले.

OpenAI ने पोलिसांशी संपर्क का केला नाही

OpenAI ने शेवटी अधिकार्यांना अलर्ट न करणे निवडले. कंपनीच्या प्रवक्त्याने डब्ल्यूएसजेला सांगितले की व्हॅन रूटसेलरच्या खात्यावर बंदी घालण्यात आली होती, परंतु तिची क्रियाकलाप कायद्याच्या अंमलबजावणीसाठी अहवाल देण्यासाठी कंपनीच्या मानकांची पूर्तता करत नाही. त्या मानकासाठी “इतरांना गंभीर शारीरिक हानी होण्याचा विश्वासार्ह आणि आसन्न धोका” आवश्यक आहे.प्रवक्त्याने सांगितले की ओपनएआय वापरकर्त्याच्या गोपनीयतेच्या विरूद्ध संभाव्य सुरक्षा धोके आणि तात्काळ धोक्याच्या स्पष्ट पुराव्याशिवाय पोलिसांच्या सहभागामुळे होणारी हानी संतुलित करते.10 फेब्रुवारी रोजी, ब्रिटिश कोलंबियाच्या टम्बलर रिजमध्ये एका शाळेत गोळीबार करताना व्हॅन रूट्सेलार मृत आढळून आला, ज्याचे वर्णन पोलिसांनी स्वत: ची दुखापत म्हणून केले आहे. त्यात आठ जण ठार तर किमान २५ जखमी झाले. रॉयल कॅनेडियन माउंटेड पोलिसांनी नंतर तिचे नाव संशयित म्हणून ठेवले.हल्ल्याची माहिती मिळाल्यानंतर, OpenAI ने RCMP शी संपर्क साधला आणि ते तपासकर्त्यांना सहकार्य करत असल्याचे सांगितले. “टंबलर रिजच्या दुर्घटनेमुळे प्रभावित झालेल्या सर्वांसोबत आमचे विचार आहेत,” कंपनीने म्हटले आहे.

AI आणि सार्वजनिक सुरक्षिततेच्या आसपास व्यापक वादविवाद

हे प्रकरण AI कंपन्या संवेदनशील वापरकर्ता डेटा कसे हाताळतात याबद्दल वाढत्या प्रश्नांवर प्रकाश टाकते. ओपनएआयने वॉल स्ट्रीट जर्नलला सांगितले की ते मानवी समीक्षकांशी संभाषणांशी संबंधित हानी आणि मार्गांना परावृत्त करण्यासाठी आपल्या सिस्टमला प्रशिक्षण देते, जे त्वरित धोका असल्यास कायद्याच्या अंमलबजावणीशी संपर्क साधू शकतात.कॅनेडियन पोलिसांनी सांगितले की व्हॅन रुट्सेलरचा मानसिक आरोग्याच्या चिंतेशी संबंधित अधिकार्यांशी पूर्वी संपर्क होता आणि पूर्वी तिच्या निवासस्थानातून बंदुक काढून टाकण्यात आली होती. तपासकर्ते आता तिच्या ऑनलाइन क्रियाकलापांचे पुनरावलोकन करत आहेत, ज्यामध्ये मोठ्या प्रमाणावर शूटिंगचा व्हिडिओ गेम सिम्युलेशन आणि बंदुकांशी संबंधित सोशल मीडिया पोस्टचा समावेश आहे, चालू तपासाचा भाग म्हणून.