लाइब्रेरी पर वापस जाएं

प्रमुख प्रश्न

AI द्वारा प्रसंस्कृत · लेखक द्वारा अनुमोदित

डिजिटल प्लेटफॉर्म पर एल्गोरिदम लोगों के समूहों को काम कैसे सौंपते हैं?

When Algorithms Delegate to Humans: Exploring Human-Algorithm Interaction at Uber
Marta Stelmaszak, Mareike Möhlmann, Carsten Sørensen · MIS Quarterly · 2024
चित्र: डिजिटल प्लेटफॉर्म पर एल्गोरिदम लोगों के समूहों को काम कैसे सौंपते हैं?

मुख्य निष्कर्ष

  • वितरित प्रतिनिधिमंडल को एक सामूहिक, हाइब्रिड और संबंधपरक प्रक्रिया के रूप में अवधारणाबद्ध करता है, जहां मानवीय डेटा इनपुट का लाभ उठाते हुए कई एल्गोरिदम एक साथ काम करते हैं।
  • बहु-एजेंट सेटिंग्स में एल्गोरिदमिक प्रतिनिधिमंडल के तीन प्रमुख तंत्रों की पहचान करता है: सामूहिक हाइब्रिड मूल्यांकन, सामूहिक हाइब्रिड वितरण, और सामूहिक हाइब्रिड समन्वय।
  • यह उजागर करता है कि प्रतिनिधिमंडल एल्गोरिदम और मनुष्यों के बीच अधिकारों और जिम्मेदारियों के पूर्ण, बाइनरी हस्तांतरण के बजाय एक निरंतरता के रूप में कार्य करता है।
  • यह दर्शाता है कि एल्गोरिदमिक एजेंसी के संचालन के लिए ट्रेस डेटा, पसंद डेटा और ब्रेकडाउन के दौरान सीधे हस्तक्षेप के माध्यम से मानवीय संलिप्तता आवश्यक है।

आपके लिए इसका क्या अर्थ है

CIO / आईटी एक्ज़ीक्यूटिव

On Monday morning, initiate a review of our current platform architecture to identify all instances of multi-agent algorithmic systems and assess their delegation models, specifically looking for 'distributed delegation' patterns to ensure human input is integrated effectively.

आईटी प्रबंधक

On Monday morning, schedule a technical deep-dive with your team focused on one specific algorithmic system that delegates to humans; analyze its current delegation logic and identify specific points where human trace data, choice data, or direct intervention are critical inputs, and document these dependencies.

बिज़नेस रणनीतिकार

On Monday morning, begin a strategic assessment of our core business processes that rely on algorithmic delegation; map out the human touchpoints and decision points that are currently integrated, or could be integrated, within a 'distributed delegation' framework to enhance system resilience and adaptability.

शोधकर्ता

On Monday morning, draft a research proposal outlining a study to quantitatively measure the impact of 'distributed delegation' on system performance and user satisfaction in our specific domain, focusing on how varying levels of human input influence outcomes.

नीति निर्माता

On Monday morning, convene a working group to examine existing regulations and internal policies related to algorithmic decision-making and human oversight; identify any gaps that need addressing to better accommodate 'distributed delegation' scenarios, ensuring clarity on accountability and human agency.

सारांश

यह अध्ययन केस स्टडी के रूप में राइड-हेलिंग एप्लिकेशन उबर का उपयोग करके जटिल, बहु-एजेंट परिवेशों में एल्गोरिदम मनुष्यों को कार्य कैसे सौंपते हैं, इसकी जांच करता है। 63 अमेरिकी उबर पेटेंटों का विश्लेषण करके और चालकों तथा यात्रियों के साथ 22 अर्ध-संरचित साक्षात्कार आयोजित करके, लेखक साधारण दो-एजेंट कॉन्फ़िगरेशन से परे मानव-एल्गोरिदम सहभागिता की पड़ताल करते हैं। यह शोधपत्र वितरित प्रतिनिधिमंडल को एक ऐसी अवधारणा के रूप में सिद्धांतबद्ध करता है जिसमें सामूहिक हाइब्रिड मूल्यांकन, वितरण और समन्वय शामिल हैं।

समस्या

मानव-एल्गोरिदम सहभागिता पर पूर्व शोध मुख्य रूप से एक-से-एक या अनेक-से-एक युगल पर केंद्रित है, यह मानते हुए कि प्रतिनिधिमंडल बाइनरी है या एल्गोरिदम पूर्ण स्वायत्तता के साथ कार्य करते हैं। हालांकि, वास्तविक दुनिया के डिजिटल प्लेटफॉर्म जटिल बहु-एजेंट वातावरण के रूप में काम करते हैं जहां कई एल्गोरिदम एक साथ कई मनुष्यों के साथ बातचीत करते हैं। मौजूदा तंत्रों में इस बात के सिद्धांतिकरण का अभाव है कि एल्गोरिदम के समूह निरंतर मानवीय इनपुट पर निर्भर रहते हुए मनुष्यों के समूहों में कार्यों को कैसे सौंपते हैं।

ट्रांसक्रिप्ट
Host: A.I.S. Insights — powered by Living Knowledge में आपका स्वागत है। मैं आपकी होस्ट, एन्ना आइवी समर्स हूँ। आज हम एक बेहद दिलचस्प अध्ययन पर बात करने जा रहे हैं, जिसका शीर्षक है "जब एल्गोरिदम मनुष्यों को कार्य सौंपते हैं: उबर में मानव-एल्गोरिदम सहभागिता का अध्ययन"। इस विषय पर गहराई से चर्चा करने के लिए हमारे साथ मौजूद हैं हमारे विश्लेषक एलेक्स इयान सदरलैंड। एलेक्स, शो में आपका स्वागत है!

Expert: धन्यवाद एन्ना। यहाँ आकर बहुत खुशी हुई। यह अध्ययन केस स्टडी के रूप में उबर का उपयोग करके यह समझने में हमारी मदद करता है कि जटिल, बहु-एजेंट वातावरण में एल्गोरिदम वास्तव में मनुष्यों को काम कैसे सौंपते हैं।

Host: एलेक्स, इस अध्ययन की शुरुआत किस मूल समस्या से हुई? आखिर शोधकर्ताओं को इस विषय पर गहराई से अध्ययन करने की आवश्यकता क्यों पड़ी?

Expert: एन्ना, बात यह है कि मानव और एल्गोरिदम के संबंधों पर पहले का अधिकांश शोध बहुत सरल मॉडल पर आधारित था। उसमें यह माना जाता था कि यह सिर्फ एक इंसान और एक एल्गोरिदम के बीच की बात है, या फिर एल्गोरिदम पूरी तरह से स्वायत्त रूप से काम करते हैं। लेकिन आज के डिजिटल प्लेटफॉर्म जैसे उबर ऐसे काम नहीं करते। ये जटिल बहु-एजेंट वातावरण हैं जहाँ कई एल्गोरिदम एक साथ कई मनुष्यों के साथ लगातार संवाद करते हैं। पुराने सिद्धांतों में इस बात की कमी थी कि एल्गोरिदम के समूह मनुष्यों के समूहों को कार्य कैसे सौंपते हैं।

Host: यह तो वाकई एक बड़ी व्यावहारिक चुनौती है। तो शोधकर्ताओं ने इस जटिल व्यवस्था को समझने के लिए क्या दृष्टिकोण अपनाया?

Expert: शोधकर्ताओं ने बहुत व्यावहारिक और गहन दृष्टिकोण अपनाया। उन्होंने 63 अमेरिकी उबर पेटेंटों का विस्तृत विश्लेषण किया और साथ ही चालकों तथा यात्रियों के साथ 22 अर्ध-संरचित साक्षात्कार आयोजित किए। पेटेंट और जमीनी अनुभवों के इस मिश्रण ने उन्हें यह समझने में मदद की कि यह तकनीक कागजों पर कैसे काम करती है और वास्तविक जीवन में चालक और यात्री इससे कैसे जुड़ते हैं।

Host: यह तरीका वाकई बहुत प्रभावी लगता है! एलेक्स, इस अध्ययन के मुख्य निष्कर्ष क्या रहे?

Expert: इस अध्ययन का सबसे प्रमुख निष्कर्ष है "वितरित प्रतिनिधिमंडल" या distributed delegation की अवधारणा। अध्ययन से पता चलता है कि एल्गोरिदम द्वारा मनुष्यों को काम सौंपना कोई बाइनरी निर्णय नहीं है कि या तो पूरा नियंत्रण इंसान के पास है या एल्गोरिदम के पास। इसके बजाय, यह एक निरंतर चलने वाली और संबंधपरक प्रक्रिया है। अध्ययन में इसके तीन प्रमुख तंत्र बताए गए हैं: सामूहिक हाइब्रिड मूल्यांकन, सामूहिक हाइब्रिड वितरण, और सामूहिक हाइब्रिड समन्वय।

Host: क्या आप हमारे व्यावसायिक दर्शकों के लिए इन तीन तंत्रों को थोड़ा आसान भाषा में समझा सकते हैं?

Expert: बिल्कुल। सामूहिक हाइब्रिड मूल्यांकन का मतलब है कि एल्गोरिदम लगातार चालकों और यात्रियों से रेटिंग और ट्रेस डेटा एकत्र करते हैं। फिर सामूहिक हाइब्रिड वितरण के तहत, इस डेटा के आधार पर वास्तविक समय में कार्यों को वितरित किया जाता है। और अंत में, सामूहिक हाइब्रिड समन्वय तब होता है जब कोई तकनीकी खराबी या अप्रत्याशित समस्या आती है, और उसे ठीक करने के लिए सीधे मानवीय हस्तक्षेप की आवश्यकता होती है। सीधे शब्दों में कहें तो, एल्गोरिदम स्वतंत्र रूप से काम नहीं करते; उन्हें सही ढंग से चलने के लिए लगातार मानवीय इनपुट और प्रतिक्रिया की आवश्यकता होती है।

Host: यह बहुत ही महत्वपूर्ण बिंदु है! एलेक्स, बिजनेस लीडर्स और प्रबंधकों के लिए इस अध्ययन का क्या महत्व है? वे इससे क्या सबक ले सकते हैं?

Expert: व्यापारिक दृष्टिकोण से इसका संदेश बहुत स्पष्ट है। यदि आपकी कंपनी एआई या एल्गोरिदम लागू कर रही है, तो आपको यह सोचना बंद करना होगा कि एआई मनुष्यों को पूरी तरह से बदल देगा। व्यावसायिक सफलता इस बात पर निर्भर करती है कि आप मानव और एल्गोरिदम के बीच एक निरंतर फीडबैक लूप कैसे तैयार करते हैं। एआई एजेंसी को पूरी तरह से सौंपने के बजाय, कंपनियों को एक ऐसे हाइब्रिड मॉडल का निर्माण करना चाहिए जहाँ मानवीय अनुभव और एआई की गति मिलकर काम कर सकें।

Host: यानी एल्गोरिदम केवल काम सौंपते नहीं हैं, बल्कि वे मनुष्यों के साथ एक निरंतर साझेदारी में काम करते हैं। इस बेहतरीन विश्लेषण के लिए एलेक्स आपका बहुत-बहुत धन्यवाद। और हमारे सभी श्रोताओं को A.I.S. Insights — powered by Living Knowledge से जुड़ने के लिए धन्यवाद। अगली बार फिर मिलेंगे एक नए और ज्ञानवर्धक विषय के साथ!
Artificial Intelligence & Automation Human-Computer Interaction

IS Delegation, Human-AI Interaction, Artificial Intelligence, Algorithms, Patents