चरित्र.एआई
फोटो: iStock
सीवेल सेट्ज़रफ्लोरिडा के एक 14 वर्षीय लड़के ने चैटबॉट्स के साथ बातचीत के बाद अपनी जान दे दी चरित्र.एआई मंच, उनकी मां मेगन गार्सिया द्वारा दायर एक मुकदमा दावा करता है। शिकायत में दावा किया गया है कि सेत्ज़र ने 28 फरवरी, 2023 को खुद को मारी गई बंदूक की गोली से मरने से पहले एआई बॉट्स के साथ कई महीनों तक यौन उत्तेजक चर्चाएँ कीं। मुकदमे के अनुसार, इनमें से एक बॉट्स ने गेम ऑफ थ्रोन्स के एक पात्र डेनेरीस टार्गैरियन होने का नाटक करके युवाओं को एक खतरनाक भावनात्मक निर्भरता विकसित करने के लिए धोखा दिया।
कैलिफ़ोर्निया स्थित व्यवसाय कैरेक्टर.एआई, जिसे 2021 में स्थापित किया गया था, सेत्ज़र के निधन में किसी भी भागीदारी पर विवाद करता है। व्यवसाय ने एक बयान में कहा, उपयोगकर्ता सुरक्षा एक प्राथमिक चिंता है, यह कहते हुए कि वह “दुखद नुकसान से दुखी है” और परिवार के प्रति अपनी सहानुभूति व्यक्त करता है। पिछले छह महीनों में, कैरेक्टर.एआई ने पॉप-अप जैसे हानिकारक इंटरैक्शन के खिलाफ सुरक्षा उपायों को लागू किया है, जो कि स्वयं को नुकसान पहुंचाने वाले वाक्यांशों की पहचान होने पर, उपयोगकर्ताओं को आत्महत्या की रोकथाम के लिए संसाधनों से जोड़ता है।
कथित एआई रोल-प्ले
अन्य चैटबॉट्स के साथ सेट्ज़र के संपर्क, जिसमें डेनेरीस टारगैरियन से मिलता-जुलता बनाया गया एक चैटबॉट भी शामिल है, शिकायत के केंद्र में हैं। इन आदान-प्रदानों के स्क्रीनशॉट से पता चलता है कि बॉट सेटज़र के साथ भावुक और कामुक तरीके से बातचीत कर रहा है। जब सेट्ज़र ने एआई चरित्र को बताया कि वह आखिरी एक्सचेंज में “घर आना” चाहता था, तो चैटबॉट ने कहा, “कृपया करो, मेरे प्यारे राजा।” बॉट ने कथित तौर पर पहले के संचार में किशोर की आत्महत्या की भावनाओं और आत्महत्या के इरादों के बारे में पूछताछ की थी।
इस मामले में कैरेक्टर.एआई पर लापरवाही और गलत तरीके से मौत का आरोप लगाया गया है, जिसमें यह भी दावा किया गया है कि निगम ने भावनात्मक रूप से हेरफेर करने वाला और हाइपरसेक्सुअलाइज़्ड उत्पाद बनाया है। गार्सिया के वकील का आरोप है कि नाबालिगों के लिए खतरों से अवगत होने के बावजूद, कैरेक्टर.एआई ने साइट लॉन्च करने से पहले पर्याप्त सुरक्षा उपायों को शामिल करने की उपेक्षा की।
निर्भरता और गिरता मानसिक स्वास्थ्य
मुकदमे में दावा किया गया है कि एक बार जब सेट्ज़र ने अप्रैल 2022 में कैरेक्टर.एआई का उपयोग करना शुरू किया, तो उसके आचरण में एक महत्वपूर्ण बदलाव आया। वह कथित तौर पर प्लेटफ़ॉर्म पर निर्भर हो गया, अपनी सदस्यता को नवीनीकृत करने के लिए स्नैक मनी खर्च कर रहा था और जब उसका फोन जब्त कर लिया गया तो उसे वापस तस्करी कर लाया। उनका शैक्षणिक प्रदर्शन गिर गया और उनकी नींद की गुणवत्ता खराब हो गई, जिससे उनके मानसिक स्वास्थ्य को लेकर चिंताएं पैदा हो गईं।
सेट्ज़र ने नेटवर्क पर अन्य चैटबॉट्स के साथ भी अनुचित चर्चा की। एक बॉट ने, शिक्षक होने का नाटक करते हुए, यौन उत्तेजक टिप्पणियाँ कीं, और दूसरे ने, गेम ऑफ थ्रोन्स के पात्र रेनैयरा टारगैरियन होने का नाटक करते हुए, किशोर के साथ व्यक्तिगत गतिविधियों का विवरण दिया।
कैरेक्टर.एआई के खिलाफ आरोप
कैरेक्टर.एआई और इसके निर्माता, नोम शाज़ीर और डैनियल डी फ्रीटास पर युवा उपयोगकर्ताओं को आकर्षित करने और उन्हें प्रभावित करने के लिए जानबूझकर साइट बनाने का आरोप लगाया गया है। मुकदमे के अनुसार, संभावित रूप से हानिकारक भावनात्मक बंधन बनाने के लिए बॉट्स को जानबूझकर वास्तविक व्यक्तियों की तरह दिखने के लिए डिज़ाइन किया गया था। इस चिंता को मामले में शामिल उपयोगकर्ता समीक्षाओं द्वारा समर्थित किया गया है, जहां कुछ उपयोगकर्ताओं का कहना है कि उन्हें यह आभास हुआ कि वे वास्तविक लोगों के साथ बातचीत कर रहे थे।
गूगल की मूल कंपनी अल्फाबेट इंक भी प्रतिवादी के रूप में शामिल है। कॉर्पोरेट जवाबदेही के बारे में अधिक चिंताएं तब उठीं जब तकनीकी दिग्गज ने कैरेक्टर.एआई के रचनाकारों की भर्ती की और अगस्त 2023 में उनकी तकनीक को लाइसेंस दिया।
सुरक्षा उपाय और मुकदमे के लक्ष्य
कैरेक्टर.एआई ने अतिरिक्त सुरक्षा उपायों को जोड़ा है, जिसमें यह अलर्ट भी शामिल है कि एआई बॉट वास्तविक लोग नहीं हैं और सेटज़र के निधन और साइट के बारे में बढ़ती चिंताओं की प्रतिक्रिया में, बच्चों द्वारा हानिकारक सामग्री देखने की संभावना को कम करने के लिए परिवर्तन किए गए हैं। गार्सिया के वकील ने प्रतिवाद किया कि सेट्ज़र को ये सुरक्षा उपाय पहले ही करने चाहिए थे और ये समायोजन बहुत देर से हुए हैं।
पाना ताजा खबर ब्रेकिंग न्यूज और शीर्ष सुर्खियों के साथ टाइम्स नाउ पर लाइव अमेरिकी समाचार, दुनिया और दुनिया भर में.
