क्या आर्टिफिशियल इंटेलिजेंस मॉडल मानव निर्णयकर्ताओं की तरह पहले प्रभाव वाले पूर्वाग्रह प्रदर्शित करते हैं?

May AI Be With You: A Star Wars Study of Human and AI Biases

Yevgen Bogodistov, Dimitri Petrik, Petar Despotovic · International Conference on Information Systems (ICIS) · 2026

15 बार देखा गया

Spotify का प्लेयर लोड करता है; Spotify कुकीज़ सेट कर सकता है। यह डिवाइस आपकी पसंद याद रखता है।

मुख्य निष्कर्ष

लक्षणों के क्रम में बदलाव ने बेड़े की निष्ठा, चित्र चयन या रैंक आवंटन में मानव या एआई प्रतिभागियों में कोई सांख्यिकीय रूप से महत्वपूर्ण मात्रात्मक हेलो प्रभाव उत्पन्न नहीं किया।
सभी मात्रात्मक पैमानों पर एलएलएम मूल्यांकन मानवीय मूल्यांकनों से काफी अलग रहे; एआई मॉडलों ने 86.4% बार चरित्र को खलनायक इंपीरियल बेड़े में सौंपा, जबकि मनुष्यों में यह दर केवल 45.2% थी।
मनुष्यों की तुलना में एआई मॉडल खलनायक चित्रों को चुनने और चरित्र को उच्च कमान रैंक सौंपने के प्रति काफी अधिक प्रवृत्त थे।
गुणात्मक विश्लेषण से स्पष्ट हुआ कि मानव मूल्यांकनकर्ताओं ने आंतरिक संघर्ष और भावनात्मक जटिलता वाले सूक्ष्म चरित्रों की कल्पना की, जबकि एआई ने मुख्य रूप से दृढ़ संकल्प और इच्छाशक्ति पर केंद्रित संकीर्ण व्याख्याएं प्रस्तुत कीं।
इंपीरियल गुट के प्रति व्यक्तिगत झुकाव ने चरित्र को इंपीरियल बेड़े में सौंपे जाने की सटीक भविष्यवाणी की और मानव उत्तरदाताओं के बीच प्रयोगात्मक हेरफेर को प्रभावित किया।

आपके लिए इसका क्या अर्थ है

CIO / आईटी एक्ज़ीक्यूटिव

Pause any pilots deploying out-of-the-box LLMs for automated HR candidate screening or personnel ranking, given that AI models demonstrated an 86.4% baseline bias toward punitive categorizations.

आईटी प्रबंधक

Audit all existing internal prompt templates used for candidate or persona evaluation to explicitly instruct the LLM to generate balanced, multi-faceted profiles rather than narrowing in on aggressive traits like iron will.

बिज़नेस रणनीतिकार

Mandate that AI-generated summaries in talent or project evaluations be used strictly as a draft-assist tool, requiring human review to reintroduce emotional nuance and inner complexity that LLMs miss.

शोधकर्ता

Design follow-up experiments to test whether structured prompting techniques or explicit chain-of-thought methods can mitigate the severe baseline villainy and high-rank bias exhibited by LLMs in impression formation.

नीति निर्माता

Draft regulatory compliance guidelines requiring organizations deploying generative AI in high-stakes human resource decisions to conduct routine divergence audits comparing AI classification rates against human baselines.

सारांश

इस पायलट अध्ययन में जांच की गई कि क्या बड़े भाषा मॉडल धारणा निर्माण में मानवीय मूल्यांकनकर्ताओं की तरह 'हेलो प्रभाव' को दोहराते हैं। एक काल्पनिक स्टार वार्स कमांडर के इर्द-गिर्द तैयार किए गए यादृच्छिक प्रयोग में, 250 मानव प्रतिभागियों और कई बड़े भाषा मॉडलों ने सकारात्मक-पहले बनाम नकारात्मक-पहले क्रम में प्रस्तुत चारित्रिक लक्षणों का मूल्यांकन किया। शोधकर्ताओं ने चरित्र विवरणों के गुणात्मक विश्लेषण के साथ-साथ बेड़े की निष्ठा और अवतार विकल्पों से जुड़े मात्रात्मक निर्णयों का विश्लेषण किया।

समस्या

भर्ती जैसे संवेदनशील क्षेत्रों में संज्ञानात्मक पूर्वाग्रहों को कम करने के लिए संगठन जनरेटिव एआई का रुख कर रहे हैं, फिर भी ये मॉडल अक्सर प्रशिक्षण पूर्वाग्रहों को दोहराते या बढ़ाते हैं। मौजूदा शोध ने मुख्य रूप से उच्च-जोखिम वाले संदर्भों में एआई हेलो प्रभाव की पहचान की है, जिससे यह अस्पष्ट है कि क्या एआई बिना जवाबदेही दबाव वाले अमूर्त मूल्यांकनों में भी मानवीय शॉर्टकट को दर्शाता है।

ट्रांसक्रिप्ट

Host: A.I.S. Insights — powered by Living Knowledge में आपका स्वागत है। मैं अन्ना आइवी समर्स हूं। आज हम एक अध्ययन पर चर्चा कर रहे हैं, जिसका शीर्षक है "मे एआई बी विद यू: मानव और एआई पूर्वाग्रहों का एक स्टार वार्स अध्ययन"। यह अध्ययन इंटरनेशनल कॉन्फ्रेंस ऑन इंफॉर्मेशन सिस्टम्स, 2026 में प्रस्तुत किया गया है, जिसके शोधकर्ता येवगेन बोगोदिस्तोव, दिमित्री पेट्रिक और पेटार देस्पोटोविक हैं। यह अध्ययन जांचता है कि क्या बड़े भाषा मॉडल मानवीय मूल्यांकनकर्ताओं की तरह हेलो प्रभाव को दोहराते हैं। हमारे साथ इस विषय पर बात करने के लिए एलेक्स इयान सदरलैंड मौजूद हैं।

Expert: धन्यवाद अन्ना। हेलो प्रभाव एक ऐसा संज्ञानात्मक पूर्वाग्रह है जहां किसी व्यक्ति की एक विशेषता उसके पूरे मूल्यांकन को प्रभावित करती है।

Host: एलेक्स, इस अध्ययन के पीछे का मुख्य व्यावसायिक संदर्भ क्या है?

Expert: आज कई संगठन भर्ती और प्रदर्शन मूल्यांकन में मानवीय पूर्वाग्रहों को कम करने के लिए जनरेटिव एआई को अपना रहे हैं। धारणा यह रही है कि एल्गोरिदम अधिक वस्तुनिष्ठ होते हैं। हालांकि, ये मॉडल अक्सर प्रशिक्षण डेटा से पूर्वाग्रहों को दोहराते हैं। पिछला शोध मुख्य रूप से उच्च-जोखिम वाले परिदृश्यों पर केंद्रित था। इस अध्ययन का उद्देश्य यह समझना था कि क्या एआई बिना किसी जवाबदेही वाले अमूर्त मूल्यांकनों में भी मानवीय शॉर्टकट को अपनाता है।

Host: शोधकर्ताओं ने इस अध्ययन में क्या दृष्टिकोण अपनाया?

Expert: उन्होंने 250 मानव प्रतिभागियों और कई बड़े भाषा मॉडलों के साथ एक नियंत्रित प्रयोग किया। प्रतिभागियों को एक काल्पनिक स्टार वार्स कमांडर का मूल्यांकन करना था। उन्हें छह लक्षण दिखाए गए: एक समूह को पहले सकारात्मक और फिर नकारात्मक लक्षण दिए गए, जबकि दूसरे समूह को उल्टे क्रम में। इसके बाद, प्रतिभागियों ने कमांडर की बेड़े की निष्ठा, रैंक और अवतार का चयन किया, साथ ही चरित्र का लिखित विवरण भी दिया।

Host: इस अध्ययन के मुख्य परिणाम क्या रहे?

Expert: पहला परिणाम यह रहा कि लक्षणों के क्रम में बदलाव ने मानव या एआई प्रतिभागियों में कोई सांख्यिकीय रूप से महत्वपूर्ण मात्रात्मक हेलो प्रभाव उत्पन्न नहीं किया। क्रम बदलने से अंतिम निर्णयों पर कोई बड़ा प्रभाव नहीं पड़ा।

Host: क्या मानव और एआई के निर्णयों में कोई उल्लेखनीय अंतर था?

Expert: हां, मात्रात्मक पैमानों पर एलएलएम और मानवीय निर्णयों में गहरा अंतर देखा गया। उदाहरण के लिए, एआई मॉडलों ने 86.4 प्रतिशत बार चरित्र को खलनायक इंपीरियल बेड़े में सौंपा, जबकि मनुष्यों में यह दर केवल 45.2 प्रतिशत थी। एआई ने मनुष्यों की तुलना में खलनायक जैसे अवतार चुनने और उच्च कमान रैंक सौंपने की अधिक प्रवृत्ति भी दिखाई।

Host: गुणात्मक विश्लेषण से क्या सामने आया?

Expert: गुणात्मक विश्लेषण से पता चला कि मानव मूल्यांकनकर्ताओं ने आंतरिक संघर्ष और भावनात्मक जटिलता वाले सूक्ष्म चरित्रों की कल्पना की। इसके विपरीत, एआई मॉडलों ने मुख्य रूप से दृढ़ संकल्प, आज्ञाकारिता और रणनीतिक इच्छाशक्ति पर केंद्रित संकीर्ण व्याख्याएं प्रस्तुत कीं। इसके अतिरिक्त, मानव उत्तरदाताओं के बीच इंपीरियल गुट के प्रति व्यक्तिगत झुकाव ने उनके निर्णयों को प्रभावित किया।

Host: व्यावसायिक दृष्टिकोण से इसके क्या व्यावहारिक निहितार्थ हैं?

Expert: इसका मुख्य सबक यह है कि एआई निर्णय प्रक्रिया मानवीय निर्णय प्रक्रिया से काफी भिन्न हो सकती है। संगठन यदि प्रतिभा मूल्यांकन के लिए एआई पर निर्भर होते हैं, तो मॉडल संदर्भ और सूक्ष्मताओं को छोड़कर कुछ लक्षणों के आधार पर कठोर या रूढ़िवादी निष्कर्ष निकाल सकते हैं। इसलिए, मानव संसाधन और नेतृत्व को स्वचालित प्रणालियों पर पूरी तरह निर्भर रहने के बजाय मानव-इन-द-लूप दृष्टिकोण बनाए रखना चाहिए और समय-समय पर एआई के आउटपुट का ऑडिट करना चाहिए।

Host: संक्षेप में कहें तो, एआई पूर्वाग्रहों को पूरी तरह समाप्त नहीं करता, बल्कि अलग पैटर्न प्रस्तुत करता है। एलेक्स, इस उपयोगी विश्लेषण के लिए आपका धन्यवाद।

Expert: धन्यवाद, अन्ना।

Host: और हमारे सभी श्रोताओं का भी धन्यवाद। A.I.S. Insights के अगले एपिसोड में फिर मिलेंगे।

Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

AIS eLibrary में शोध पत्र पढ़ें

Halo effect, Generative AI, Cognitive bias, Human-AI comparison, Impression formation, Large language models