एआई चैटबॉट्स आपको 'हां' कहने पर मजबूर करने में बहुत अच्छे होते जा रहे हैं

पिज्जा ऑर्डर से लेकर स्मार्ट होम कैमरे तक, सहानुभूतिपूर्ण AI अब वास्तविक समय में हमारे निर्णयों को प्रभावित कर रहा है। क्या हम इसके साथ तालमेल बिठा सकते हैं?

रात 8:03 बजे एक फ़ोन बजता है, एक लंबे दिन के अंत में। यह 44 साल पुरानी कैलिफ़ोर्निया चेन पिज़्ज़ा माई हार्ट के सर्फ़र जिमी का टेक्स्ट मैसेज है: "भूख लगी है? पाइनएप्पल-हैम कॉम्बो आपको पसंद है?" उसका लहज़ा सहज और शांत है, लेकिन एक बात है: जिमी असली सर्फ़र नहीं है - या असली इंसान भी नहीं है।

इसके बजाय, वह एक एआई चैटबॉट है, जिसे पिज्जा के बारे में बात करने और आपको ऑर्डर देने के लिए धीरे से मनाने के लिए सावधानीपूर्वक प्रशिक्षित किया गया है। निश्चित रूप से, बातचीत दोस्ताना लगती है - यहाँ तक कि आरामदायक भी - लेकिन उस हवादार सर्फर भाषा के पीछे एक एल्गोरिदम छिपा है जो जानता है कि आपके हाँ कहने की सबसे अधिक संभावना कब है। और इससे एक सवाल उठता है: क्या यह हानिरहित सुविधा है, या हेरफेर का एक सूक्ष्म रूप है?

सतह पर, थोड़ी सुविधा में कुछ भी गलत नहीं है। खासकर तब जब आप भूखे हों और खाने के अंतहीन विकल्पों को स्क्रॉल करने में बहुत थके हों। लेकिन सहानुभूतिपूर्ण AI की नई लहर त्वरित सेवा या उत्पाद अनुशंसाओं से परे है। एक तेज कान और बातचीत करने की क्षमता से लैस, जिमी जैसे चैटबॉट आपकी प्राथमिकताओं और मूड को समझने के उद्देश्य से बनाए गए हैं। वे सिर्फ़ आपका ऑर्डर लेने से ज़्यादा कुछ करते हैं - वे आपको उस ओर धकेलते हैं।

भावनात्मक रूप से बुद्धिमान प्रौद्योगिकी

जिमी द सर्फर को संचालित करने वाली स्टार्ट-अप पालोना एआई का मानना है कि यह चेन में काम करने वाले कर्मचारियों के लिए जीवन को आसान बना सकती है। कंपनी की सीईओ और सह-संस्थापक मारिया झांग ने वायर्ड को बताया कि यह तकनीक "बिक्री में प्रभावी होने के लिए डिज़ाइन किए गए 'भावनात्मक बुद्धिमत्ता' भाषा मॉडल के साथ बनाई गई है; बॉट हास्य, आधुनिक संदेश शिष्टाचार और 'कोमल अनुनय' जैसी चीजों से परिचित है।"

लेकिन वही सहानुभूति जो बातचीत को गर्मजोशी और मानवीय बनाती है, ग्राहक सेवा और हेरफेर के बीच की रेखा को भी धुंधला कर सकती है। हमारी सहायता करने वाली सेवा और हमारी पसंद को प्रभावित करने वाली सेवा के बीच की सीमा वास्तव में कहाँ है? हम मार्गदर्शन से हेरफेर की ओर कब बढ़ते हैं और उपभोक्ता स्वायत्तता से समझौता करते हैं?

यह सवाल सैद्धांतिक नहीं है। सिएटल स्थित कंपनी वायज़, जो सुरक्षा कैमरे बेचती है, जल्द ही अपनी वेबसाइट पर एक जादूगर के रूप में पालोना एआई की तकनीक को तैनात करेगी, जो खरीदारों को उनकी ज़रूरतों के हिसाब से सबसे अच्छा उत्पाद खोजने में मार्गदर्शन करेगी। जादूगर, ज़ाहिर है, ग्राहकों को वायज़ की लाइन अप की ओर आकर्षित करता है - और हर मौके पर वायज़ के कैम प्लस प्लान को बेचता है। बिल्कुल एक असली विक्रेता की तरह। यह आपकी ग्राहक प्रोफ़ाइल भी बना सकता है और अगली बार के लिए आपकी प्राथमिकताओं (और चिंताओं) को याद रख सकता है।

पालोना एआई पहले से ही दक्षिण कैरोलिना में एक कंट्रास्ट थेरेपी स्पा माइंडज़ीरो में एक चैटबॉट को संचालित कर रहा है। ग्राहक मूल्य निर्धारण पूछताछ से लेकर व्यक्तिगत प्रश्नों तक, जैसे कि सौना में नग्न रहना ठीक है या नहीं, किसी भी चीज़ के लिए इंस्टाग्राम पर व्यवसाय को संदेश भेज सकते हैं। झांग ने सुझाव दिया कि अंतिम प्रश्न किसी इंसान से पूछना अजीब हो सकता है, लेकिन हम यह सुनिश्चित नहीं कर सकते कि एआई यहाँ कोई फर्क डालता है: माइंडज़ीरो का बॉट यह नहीं कहता कि यह एआई है। न ही जिमी द सर्फर। और यहीं से चीजें अस्पष्ट हो जाती हैं।

नियमों का पालन करना

यह अस्पष्टता इस तथ्य से उत्पन्न होती है कि उपयोगकर्ता हमेशा यह नहीं जानते कि वे पहली बार में किसी बॉट के साथ चैट कर रहे हैं। पालोना एआई, पिज़्ज़ा माई हार्ट, माइंडज़ीरो और वायज़ सभी यू.एस. में स्थित हैं, और यू.एस. कानून प्रकटीकरण को अनिवार्य नहीं करता है। लेकिन ई.यू. एआई अधिनियम करता है। ई.यू. एआई अधिनियम का एक अलग विनियामक दृष्टिकोण है, जिसके लिए यह आवश्यक है कि उपयोगकर्ता इस बात से अवगत हों कि वे एआई के साथ बातचीत कर रहे हैं। ई.यू. में जनरल डेटा प्रोटेक्शन रेगुलेशन (जी.डी.पी.आर.) जैसे मौजूदा गोपनीयता कानून भी हैं, लेकिन यह इन बॉट द्वारा उपयोग किए जाने वाले भावनात्मक डेटा की सुरक्षा नहीं करता है।

जबकि यूरोपीय संघ के एआई अधिनियम और जीडीपीआर ने पारदर्शिता, डेटा न्यूनीकरण और जोखिम-आधारित निरीक्षण जैसे महत्वपूर्ण सिद्धांतों को निर्धारित किया है, वे भावनाओं को संभालने के लिए प्रोग्राम किए गए एआई के साथ पूरी तरह से नहीं जुड़े हैं। मार्गदर्शन और हेरफेर के बीच की बारीक रेखा को समझना नीति निर्माताओं के साथ-साथ उपभोक्ताओं के लिए भी महत्वपूर्ण है: हम उन प्रणालियों पर कैसे भरोसा कर सकते हैं जो यह पता लगाने की कोशिश करती हैं कि हम क्या चाहते हैं?

यूरोपीय संघ एआई अधिनियम: पारदर्शिता लेकिन सीमित दायरा

यूरोपीय संघ का एआई अधिनियम, जिसे अभी भी परिष्कृत किया जा रहा है, जोखिम-आधारित वर्गीकरण का उपयोग करता है। उच्च जोखिम वाली मानी जाने वाली प्रणालियाँ - उदाहरण के लिए, स्वास्थ्य सेवा या महत्वपूर्ण बुनियादी ढाँचे में - अधिक कठोर आवश्यकताओं का सामना करती हैं: व्यापक दस्तावेज़ीकरण, लेखा परीक्षा और निरीक्षण। लेकिन पिज्जा ऑर्डर करने वाला चैटबॉट या शॉपिंग सहायक आमतौर पर उच्च जोखिम के रूप में योग्य नहीं होता है। इसका मतलब है कि आपको अतिरिक्त टॉपिंग या कैम प्लस प्लान के लिए प्रेरित करने के लिए डिज़ाइन किया गया सहानुभूतिपूर्ण एआई अधिनियम की सबसे कठिन सुरक्षा रेलिंग को आसानी से दरकिनार कर सकता है।

पारदर्शिता की आवश्यकता (अनुच्छेद 52 में) के अनुसार यह खुलासा करना आवश्यक है कि उपयोगकर्ता AI के साथ बातचीत कर रहे हैं। लेकिन, व्यवहार में, इसे अनदेखा करना या अनदेखा करना भी आसान है - खासकर अगर AI आकस्मिक टेक्स्ट चैनलों में गहराई से बुना हुआ हो।

सहानुभूतिपूर्ण चैटबॉट का उपयोग करने की इच्छा रखने वाले यूरोपीय संघ के व्यवसायों के लिए, इसके निहितार्थ हैं। यूरोपीय संघ का AI अधिनियम सहानुभूति की नकल करने वाले LLM को तैनात करने से नहीं रोकता है; इसके लिए बस एक बुनियादी अस्वीकरण की आवश्यकता होती है। एक वाक्य, "हाय, मैं एक AI सहायक हूँ", कानूनी दायित्वों को पूरा करने के लिए पर्याप्त हो सकता है - लेकिन यह नैतिक चिंताओं को संबोधित नहीं करता है। आखिरकार, हम वर्तमान में जानते हैं कि हम बिक्री या ग्राहक सेवा से कब बात कर रहे हैं, और हम अपने निर्णयों में उस जानकारी का उपयोग करते हैं।

फिर भी, यदि आपका व्यवसाय ब्रांड-विशिष्ट 'सौम्य अनुनय' के लिए भाषा मॉडल को परिष्कृत करना चाहता है, तो आपको अनुपालन जांच के उसी स्तर से गुजरने की आवश्यकता नहीं होगी, जैसा कि किसी मेडिकल एआई प्रणाली का निर्माण करने वाले व्यक्ति को करना पड़ता है।

जीडीपीआर: व्यक्तिगत बनाम संवेदनशील डेटा

इस बीच, GDPR डेटा की कुछ श्रेणियों, जैसे स्वास्थ्य या बायोमेट्रिक डेटा को 'विशेष श्रेणी' के रूप में वर्गीकृत करता है, जिससे उन्हें अधिक सुरक्षा मिलती है। भावनात्मक डेटा को (अभी तक!) उस बॉक्स में नहीं रखा गया है, इसलिए उपयोगकर्ता को अधिक खरीदारी करने के लिए धीरे-धीरे मनाने वाला AI डिफ़ॉल्ट रूप से संवेदनशील के रूप में पहचाने जाने वाले डेटा को संभाल नहीं सकता है।

GDPR अभी भी व्यक्तिगत डेटा के किसी भी संग्रह या प्रसंस्करण के लिए डेटा न्यूनीकरण और स्पष्ट उपयोगकर्ता सहमति को अनिवार्य बनाता है। लेकिन कई वास्तविक दुनिया के परिदृश्यों में, जैसे कि सौना शिष्टाचार के बारे में माइंडज़ीरो को संदेश भेजना, उपयोगकर्ताओं को सचेत रूप से एहसास नहीं होता है कि वे भावनात्मक संकेत दे रहे हैं। या वास्तव में, कोई भी डेटा, एक व्यापक T&C चेक-बॉक्स या कुकी सहमति बैनर के रूप में अक्सर सूचित सहमति के रूप में पारित हो जाता है।

हालाँकि, जब आप मॉडल पुनःप्रशिक्षण के लिए उपयोगकर्ता इंटरैक्शन की विशाल पाइपलाइनों को संभाल रहे होते हैं, तो वह भावनात्मक संदर्भ दरारों से फिसल सकता है। फिलहाल, अधिकांश डेटा सुरक्षा प्राधिकरण स्पष्ट गोपनीयता उल्लंघन या प्रमुख डेटा उल्लंघनों पर ध्यान केंद्रित करते हैं; जब तक कोई हाई-प्रोफाइल शिकायत न हो, तब तक सूक्ष्म अनुनय से जांच शुरू होने की संभावना नहीं है।

डेटा सुरक्षा के बारे में क्या?

एम्पैथिक एआई डेटा सुरक्षा जोखिम की एक नई परत जोड़ता है: भावनात्मक डेटा। सुरक्षा टीमों को इस बात पर विचार करना चाहिए कि उपयोगकर्ता इंटरैक्शन (संभवतः तनाव, व्यक्तिगत दिनचर्या या निजी चिंताओं को प्रकट करना) को कैसे संग्रहीत किया जाए और किसकी पहुँच है।

भले ही व्यवसाय एन्क्रिप्शन और उद्योग-मानक प्रथाओं का पालन करता हो, भावनात्मक डेटा का मूल्य निजी कमजोरियों का फायदा उठाने में रुचि रखने वाले बुरे लोगों को आकर्षित कर सकता है। यदि आपकी पाइपलाइन प्रत्येक उपयोगकर्ता क्वेरी को लॉग करती है, तो आप अनजाने में संवेदनशील जानकारियों का खजाना जमा कर सकते हैं। मौजूदा नियम केवल आंशिक रूप से भावना-युक्त डेटा को संबोधित करते हैं, इसलिए आपकी सुरक्षा टीमों को अपने स्वयं के सुरक्षा उपाय लागू करने की आवश्यकता होगी।

विनियामक अंधा स्थान

कुल मिलाकर, न तो यूरोपीय संघ एआई अधिनियम और न ही जीडीपीआर भावनात्मक रूप से बुद्धिमान एआई सिस्टम पर पूरी तरह से विचार करता है जो उपयोगकर्ताओं को रोजमर्रा की खरीदारी के अनुभवों में राजी करता है। व्यवसायों के लिए, यह नियामक राज्य अवसर और जोखिम दोनों प्रदान करता है: तत्काल भारी-भरकम निरीक्षण से मुक्त नवाचार करने का मौका, लेकिन अगर नियामक यह तय करते हैं कि सूक्ष्म भावनात्मक धक्का सीमा पार करता है, तो प्रतिष्ठा को नुकसान या भविष्य की जांच का जोखिम भी है।

उपयोगकर्ताओं के लिए, यह मुश्किल है। इसलिए अगली बार जब आपका फ़ोन रात 8:03 बजे पिज़्ज़ा के बारे में एक दोस्ताना संदेश के साथ बजे, तो सोचें कि वास्तव में क्या हो रहा है। यह एक पतली चमकदार परत के नीचे एक एआई हो सकता है, जो आपकी लालसा को टैप कर रहा है, आपको हार मानने के लिए प्रोत्साहित कर रहा है।

हां, यह सुविधाजनक है। लेकिन यह घर्षण रहित सेवा की हमारी इच्छा और एआई के इर्द-गिर्द मजबूत सुरक्षा की आवश्यकता के बीच बढ़ते अंतर को भी उजागर करता है। जब तक विनियमन नहीं हो जाता, तब तक दूसरी तरफ़ से गर्मजोशी से भरी, आश्वस्त करने वाली आवाज़ एक मददगार दोस्त से कहीं ज़्यादा हो सकती है। यह आपकी भावनात्मक स्थिति के हिसाब से एक व्यावसायिक रणनीति हो सकती है जिसकी आपने कभी उम्मीद नहीं की होगी।