अरे सिरी: वर्चुअल असिस्टेंट बच्चों को सुन रहे हैं और डेटा का इस्तेमाल कर रहे हैं

दुनिया भर के कई व्यस्त घरों में, बच्चों के लिए Apple के निर्देशों के बारे में चिल्लाना असामान्य नहीं है महोदय मै या अमेज़न का एलेक्सा. वे वॉयस-एक्टिवेटेड पर्सनल असिस्टेंट (VAPA) से यह पूछने के लिए एक गेम बना सकते हैं कि यह किस समय है, या एक लोकप्रिय गीत का अनुरोध कर रहा है। हालांकि यह घरेलू जीवन का एक सांसारिक हिस्सा लग सकता है, लेकिन बहुत कुछ चल रहा है। वीएपीए लगातार एक प्रक्रिया में ध्वनिक घटनाओं को सुन रहे हैं, रिकॉर्ड कर रहे हैं और संसाधित कर रहे हैं जिसे “ईव्समाइनिंग” करार दिया गया है, जो ईव्सड्रॉपिंग और डेटामाइनिंग का एक बंदरगाह है। यह गोपनीयता और निगरानी के साथ-साथ भेदभाव के मुद्दों से संबंधित महत्वपूर्ण चिंताओं को उठाता है, क्योंकि लोगों के जीवन के ध्वनि निशान एल्गोरिदम द्वारा डेटाफाइड और जांच किए जाते हैं।

जब हम इन्हें बच्चों पर लागू करते हैं तो ये चिंताएँ और बढ़ जाती हैं। उनका डेटा जीवन भर उन तरीकों से जमा होता है जो उनके माता-पिता पर कभी भी एकत्र किए गए दूरगामी परिणामों से बहुत आगे जाते हैं जिन्हें हमने समझना भी शुरू नहीं किया है।

हमेशा सुनना

VAPAs को अपनाना एक चौंका देने वाली गति से आगे बढ़ रहा है क्योंकि इसमें मोबाइल फोन, स्मार्ट स्पीकर और इंटरनेट से जुड़े लगातार बढ़ते नंबर वाले उत्पाद शामिल हैं। इनमें बच्चों के डिजिटल खिलौने, घर की सुरक्षा प्रणालियाँ जो ब्रेक-इन को सुनती हैं, और स्मार्ट डोरबेल जो फुटपाथ पर बातचीत कर सकती हैं।

माता-पिता, युवाओं और बच्चों से संबंधित ध्वनि डेटा के संग्रह, भंडारण और विश्लेषण से उत्पन्न होने वाले दबाव वाले मुद्दे हैं। अतीत में अलार्म उठाए गए हैं – 2014 में, गोपनीयता अधिवक्ताओं ने इस बारे में चिंता जताई कि कितना अमेज़ॅन इको यह सुन रहा था कि कौन सा डेटा एकत्र किया जा रहा है और अमेज़ॅन के अनुशंसा इंजन द्वारा डेटा का उपयोग कैसे किया जाएगा।

और फिर भी, इन चिंताओं के बावजूद, वीएपीए और अन्य ईव्समाइनिंग सिस्टम तेजी से फैल गए हैं। हाल के बाजार अनुसंधान ने भविष्यवाणी की है कि 2024 तक, ध्वनि-सक्रिय उपकरणों की संख्या 8.4 बिलियन से अधिक हो जाएगी।

सिर्फ भाषण से ज्यादा रिकॉर्डिंग

केवल बोले गए बयानों की तुलना में अधिक एकत्र किया जा रहा है, क्योंकि वीएपीए और अन्य ईव्समाइनिंग सिस्टम आवाजों की व्यक्तिगत विशेषताओं को सुनते हैं जो अनायास ही बायोमेट्रिक और व्यवहार संबंधी विशेषताओं जैसे कि उम्र, लिंग, स्वास्थ्य, नशा और व्यक्तित्व को प्रकट करते हैं।

ध्वनिक वातावरण (जैसे शोरगुल वाले अपार्टमेंट) या विशेष ध्वनि घटनाओं (जैसे कांच को तोड़ना) के बारे में जानकारी को “श्रवण दृश्य विश्लेषण” के माध्यम से उस वातावरण में क्या हो रहा है, इसके बारे में निर्णय लेने के लिए एकत्र किया जा सकता है।

ईव्समाइनिंग सिस्टम में पहले से ही कानून प्रवर्तन एजेंसियों के साथ सहयोग करने और आपराधिक जांच में डेटा के लिए समन किए जाने का हालिया ट्रैक रिकॉर्ड है। यह निगरानी के अन्य रूपों और बच्चों और परिवारों की प्रोफाइलिंग के बारे में चिंता पैदा करता है।

उदाहरण के लिए, स्मार्ट स्पीकर डेटा का उपयोग “शोरगुल वाले घर,” “अनुशासनात्मक पालन-पोषण शैली” या “परेशान युवा” जैसी प्रोफ़ाइल बनाने के लिए किया जा सकता है। यह, भविष्य में, सरकारों द्वारा सामाजिक सहायता पर निर्भर लोगों या संभावित गंभीर परिणामों वाले संकट में परिवारों को प्रोफाइल करने के लिए उपयोग किया जा सकता है।

बच्चों को सुरक्षित रखने के लिए एक समाधान के रूप में प्रस्तुत किए गए नए ईव्समाइनिंग सिस्टम भी हैं जिन्हें “आक्रामकता डिटेक्टर” कहा जाता है। इन तकनीकों में मशीन लर्निंग सॉफ़्टवेयर के साथ लोड किए गए माइक्रोफ़ोन सिस्टम शामिल हैं, जो संदेहास्पद रूप से दावा करते हैं कि वे आवाज़ों में मात्रा और भावनाओं को बढ़ाने के संकेतों को सुनकर और कांच टूटने जैसी अन्य आवाज़ों के लिए हिंसा की घटनाओं का अनुमान लगाने में मदद कर सकते हैं।

निगरानी स्कूल

स्कूल सुरक्षा पत्रिकाओं और कानून प्रवर्तन सम्मेलनों में आक्रामकता डिटेक्टरों का विज्ञापन किया जाता है। सामूहिक गोलीबारी और घातक हिंसा के अन्य मामलों को रोकने और उनका पता लगाने में सक्षम होने की आड़ में उन्हें सार्वजनिक स्थानों, अस्पतालों और उच्च विद्यालयों में तैनात किया गया है।

लेकिन इन प्रणालियों की प्रभावकारिता और विश्वसनीयता के आसपास गंभीर मुद्दे हैं। डिटेक्टर के एक ब्रांड ने बार-बार बच्चों के मुखर संकेतों की गलत व्याख्या की, जिसमें खाँसी, चीखना और जयकार करना शामिल है, आक्रामकता के संकेतक के रूप में। इससे यह सवाल उठता है कि किसकी रक्षा की जा रही है और इसकी डिजाइन से किसे कम सुरक्षित बनाया जाएगा।

कुछ बच्चों और युवाओं को इस प्रकार के सुरक्षित श्रवण से असमान रूप से नुकसान होगा, और सभी परिवारों के हितों की समान रूप से रक्षा या सेवा नहीं की जाएगी। आवाज-सक्रिय प्रौद्योगिकी की एक आवर्तक आलोचना यह है कि यह मुखर मानदंडों को लागू करके और भाषा, उच्चारण, बोली, और कठबोली के संबंध में सांस्कृतिक रूप से विविध प्रकार के भाषण को गलत पहचान कर सांस्कृतिक और नस्लीय पूर्वाग्रहों को पुन: पेश करती है।

हम अनुमान लगा सकते हैं कि नस्लीय बच्चों और युवाओं के भाषण और आवाज़ों को आक्रामक आवाज़ के रूप में गलत तरीके से गलत तरीके से समझा जाएगा। यह परेशान करने वाली भविष्यवाणी कोई आश्चर्य के रूप में नहीं आनी चाहिए क्योंकि यह गहराई से जड़े हुए औपनिवेशिक और श्वेत वर्चस्ववादी इतिहास का अनुसरण करती है जो लगातार “सोनिक कलर लाइन” की पुलिस करती है। ध्वनि नीति ईव्समाइनिंग सूचना और निगरानी की एक समृद्ध साइट है क्योंकि बच्चों और परिवारों की ध्वनि गतिविधियां हजारों तृतीय पक्षों को विषय के ज्ञान के बिना एकत्र, निगरानी, ​​​​संग्रहीत, विश्लेषण और बेचे जाने वाले डेटा के मूल्यवान स्रोत बन गए हैं। बच्चों और उनके डेटा के लिए कुछ नैतिक दायित्वों के साथ, ये कंपनियां लाभ-संचालित हैं।

इस डेटा को मिटाने के लिए कोई कानूनी आवश्यकता नहीं होने के कारण, डेटा बच्चों के जीवनकाल में जमा हो जाता है, संभावित रूप से हमेशा के लिए। यह अज्ञात है कि ये डिजिटल निशान बच्चों की उम्र के अनुसार कितने समय तक और कितने दूरगामी होंगे, इस डेटा को कितना व्यापक रूप से साझा किया जाएगा या यह डेटा अन्य डेटा के साथ कितना क्रॉस-रेफ़र किया जाएगा। इन सवालों का बच्चों के जीवन पर वर्तमान में और उम्र बढ़ने के साथ गंभीर प्रभाव पड़ता है।

गोपनीयता, निगरानी और भेदभाव के मामले में छिपकर बातें करने से असंख्य खतरे उत्पन्न होते हैं। व्यक्तिगत सिफारिशें, जैसे कि सूचनात्मक गोपनीयता शिक्षा और डिजिटल साक्षरता प्रशिक्षण, इन समस्याओं को दूर करने में अप्रभावी होंगे और सार्वजनिक और निजी स्थानों में ईव्समाइनिंग का मुकाबला करने के लिए आवश्यक साक्षरता विकसित करने के लिए परिवारों पर बहुत बड़ी जिम्मेदारी डाल देंगे।

हमें एक सामूहिक ढांचे की उन्नति पर विचार करने की आवश्यकता है जो अद्वितीय जोखिमों और ईव्समाइनिंग की वास्तविकताओं का मुकाबला करता है। शायद एक निष्पक्ष श्रवण अभ्यास सिद्धांतों का विकास – “निष्पक्ष सूचना अभ्यास सिद्धांतों” पर एक श्रवण स्पिन – उन प्लेटफार्मों और प्रक्रियाओं का मूल्यांकन करने में मदद करेगा जो बच्चों और परिवारों के ध्वनि जीवन को प्रभावित करते हैं।


Source link

LEAVE A REPLY

Please enter your comment!
Please enter your name here