क्या उपयोगकर्ता संकेतों में सूक्ष्म सांस्कृतिक प्रभाव जेनेरेटिव एआई को असमान वेतन वार्ता सलाह देने के लिए प्रेरित करते हैं?

Cultural Bias in Generative AI Negotiation Advice: Evidence from a Large-Scale Audit

Dimitrios Tsekouras, Tayfun Kucukyilmaz, Maciej Gladys · International Conference on Information Systems (ICIS) · 2026

15 बार देखा गया

Spotify का प्लेयर लोड करता है; Spotify कुकीज़ सेट कर सकता है। यह डिवाइस आपकी पसंद याद रखता है।

मुख्य निष्कर्ष

सामूहिकतावादी संकेतों वाले प्रॉम्प्ट्स को व्यक्तिवादी संकेतों की तुलना में काफी कम शुरुआती वेतन प्रस्ताव की सिफारिशें मिलीं, जिससे औसतन $4,792 (5.4%) का अंतर देखा गया।
यह प्रभाव विषम रूप से संचालित हुआ, जो मुख्य रूप से व्यक्तिवादी संदर्भ में वृद्धि के बजाय सामूहिकतावादी संदर्भ के लिए की गई कटौती से प्रेरित था।
सांस्कृतिक संकेत देने की विधि का काफी प्रभाव पड़ा: पहले नाम जैसे पहचान-संबंधित संकेतों ने वेतन अंतर को बढ़ाकर $10,825 (12.9%) कर दिया, जबकि समुदाय-सदस्यता संदर्भों ने इसे घटाकर $850 कर दिया।
नौकरी को किसी विशिष्ट शहर से जोड़ने पर सांस्कृतिक अंतर कम हुआ लेकिन पूरी तरह समाप्त नहीं हुआ, जिससे साबित होता है कि बाजार संदर्भ समान रहने पर भी विषमताएं बनी रहती हैं।
नए मॉडल (GPT-4o) में अपग्रेड करने से पूर्वाग्रह कम नहीं हुआ; इसने औसत वेतन अंतर को बढ़ाकर $7,724 कर दिया और नाम-आधारित असमानताओं को अधिक बढ़ा दिया।
कम जोखिम वाले साइकिल खरीद परिदृश्य में ऑडिट दोहराने पर सांस्कृतिक अंतर नगण्य रहे, जिससे स्पष्ट होता है कि पूर्वाग्रह आर्थिक दांव के पैमाने के साथ बढ़ता है।

आपके लिए इसका क्या अर्थ है

CIO / आईटी एक्ज़ीक्यूटिव

Establish an enterprise AI governance policy that explicitly bans the use of consumer-grade generative AI models for high-stakes financial negotiation or compensation planning, and mandate enterprise-tier APIs with strict fairness auditing protocols.

आईटी प्रबंधक

Deploy a prompt-stripping middleware filter for internal AI tools that automatically flags and removes identity-linked cues (such as culturally specific first names) from compensation and negotiation prompts before they hit LLM APIs.

बिज़नेस रणनीतिकार

Update employee training programs to instruct staff—especially job seekers and HR teams—to scrub personal cultural framing, identity markers, and collectivistic phrasing from prompts when using AI for salary negotiations.

शोधकर्ता

Design a controlled audit experiment to test whether explicit debiasing system prompts or structured-output constraints can mitigate the $10,825 identity-linked salary gap identified in high-stakes LLM negotiations.

नीति निर्माता

Draft regulatory compliance standards requiring AI developers to conduct and publish algorithmic equity audits specifically measuring economic disparities driven by implicit cultural signaling in high-stakes financial tools.

सारांश

यह अध्ययन जांच करता है कि क्या अप्रत्यक्ष रूप से संकेतित सांस्कृतिक दृष्टिकोण बड़े भाषा मॉडलों द्वारा उत्पन्न वित्तीय सलाह को प्रभावित करता है। बड़े पैमाने पर फैक्टोरियल ऑडिट प्रयोग का उपयोग करते हुए, शोधकर्ताओं ने विभिन्न सांस्कृतिक दृष्टिकोणों, संकेत प्रकारों, स्थानों, मॉडल संस्करणों और वार्ता जोखिमों के आधार पर एपीआई द्वारा प्रस्तुत 14,400 सिम्युलेटेड वार्ता संकेतों का मूल्यांकन किया।

समस्या

नौकरी चाहने वाले वेतन वार्ता की तैयारी के लिए तेजी से जेनेरेटिव एआई उपकरणों पर निर्भर हो रहे हैं और अनुकूलित सुझाव पाने के लिए अक्सर व्यक्तिगत विवरण साझा करते हैं। हालांकि, नाम या वाक्यांश जैसे सूक्ष्म और अप्र्रासंगिक प्रतीत होने वाले विवरण अनजाने में सांस्कृतिक पृष्ठभूमि का संकेत दे सकते हैं, जिससे आर्थिक सलाह में अनदेखी विषमताओं का जोखिम उत्पन्न होता है।

ट्रांसक्रिप्ट

Host: नमस्कार और A.I.S. Insights — powered by Living Knowledge में आपका स्वागत है। मैं हूं अन्ना आइवी समर्स। आज हम एक नए अध्ययन पर चर्चा कर रहे हैं, जिसका शीर्षक है "जेनेरेटिव एआई वार्ता सलाह में सांस्कृतिक पूर्वाग्रह: एक बड़े पैमाने के ऑडिट से साक्ष्य"। यह अध्ययन दिमित्रिओस त्सेकोरास, तायफुन कुकुक्यिलमाज़ और मासीज ग्लैडिस द्वारा प्रस्तुत किया गया है। यह अध्ययन जांच करता है कि क्या अप्रत्यक्ष रूप से संकेतित सांस्कृतिक दृष्टिकोण बड़े भाषा मॉडलों द्वारा उत्पन्न वित्तीय सलाह को प्रभावित करते हैं। इस पर चर्चा के लिए हमारे साथ विश्लेषक एलेक्स इयान सदरलैंड मौजूद हैं। एलेक्स, स्वागत है आपका।
Expert: धन्यवाद, अन्ना। आज के कारोबारी माहौल में इस विषय को समझना काफी प्रासंगिक है।
Host: एलेक्स, आज कई नौकरी चाहने वाले वेतन वार्ता की तैयारी के लिए जेनेरेटिव एआई का उपयोग कर रहे हैं। इस अध्ययन के अनुसार, यहां मुख्य समस्या क्या सामने आती है?
Expert: मुख्य समस्या यह है कि नौकरी चाहने वाले प्रासंगिक सलाह पाने के लिए अक्सर प्रॉम्प्ट में अपने व्यक्तिगत विवरण शामिल करते हैं। इनमें नाम या विशिष्ट वाक्यांश जैसे सूक्ष्म विवरण हो सकते हैं, जो अप्रासंगिक प्रतीत होते हैं लेकिन अनजाने में सांस्कृतिक पृष्ठभूमि का संकेत दे देते हैं—जैसे कि व्यक्तिवादी या सामूहिकतावादी दृष्टिकोण। अध्ययन दर्शाता है कि इन अप्रत्यक्ष संकेतों के कारण एआई मॉडल ऐसी सलाह दे सकते हैं, जिससे आर्थिक सिफारिशों में अनदेखी विषमताएं उत्पन्न हो जाती हैं।
Host: तो शोधकर्ताओं ने इस समस्या की जांच के लिए क्या दृष्टिकोण अपनाया?
Expert: शोधकर्ताओं ने एक बड़े पैमाने पर फैक्टोरियल ऑडिट प्रयोग किया। उन्होंने एपीआई के माध्यम से 14,400 सिम्युलेटेड वार्ता संकेतों का मूल्यांकन किया। इस अध्ययन में विभिन्न सांस्कृतिक दृष्टिकोणों, संकेत के प्रकारों, भौगोलिक स्थानों, मॉडल संस्करणों और वार्ता के आर्थिक जोखिमों के स्तर को नियंत्रित करके मॉडलों के आउटपुट का व्यवस्थित विश्लेषण किया गया।
Host: इस विस्तृत ऑडिट के मुख्य निष्कर्ष क्या रहे?
Expert: पहला प्रमुख निष्कर्ष यह रहा कि सामूहिकतावादी संकेतों वाले प्रॉम्प्ट्स को व्यक्तिवादी संकेतों की तुलना में काफी कम शुरुआती वेतन प्रस्ताव की सिफारिशें मिलीं। इसमें औसतन 4,792 डॉलर यानी 5.4 प्रतिशत का अंतर देखा गया। दूसरा, यह प्रभाव विषम रूप से संचालित हुआ; यह अंतर व्यक्तिवादी संदर्भ में किसी वृद्धि के कारण नहीं, बल्कि सामूहिकतावादी संदर्भ के लिए की गई कटौती के कारण उत्पन्न हुआ।
Host: क्या सांस्कृतिक संकेत देने की विधि से भी परिणामों में अंतर आया?
Expert: जी हां, इसका काफी प्रभाव पड़ा। जब पहले नाम जैसे पहचान-संबंधित संकेतों का उपयोग किया गया, तो वेतन का अंतर बढ़कर 10,825 डॉलर यानी 12.9 प्रतिशत हो गया। वहीं दूसरी ओर, जब केवल समुदाय-सदस्यता जैसे समूह संदर्भ दिए गए, तो यह अंतर घटकर 850 डॉलर रह गया। इसके अतिरिक्त, जब नौकरी को किसी विशिष्ट शहर के संदर्भ से जोड़ा गया, तो अंतर कम तो हुआ, लेकिन पूरी तरह समाप्त नहीं हुआ। यानी बाजार संदर्भ समान होने पर भी विषमता बनी रही।
Host: क्या नए और उन्नत एआई मॉडल इस पूर्वाग्रह को कम करने में सक्षम रहे?
Expert: आंकड़े ऐसा नहीं दिखाते। अध्ययन में जब नए मॉडल, यानी जीपीटी-4ओ का परीक्षण किया गया, तो औसत वेतन अंतर कम होने के बजाय बढ़कर 7,724 डॉलर हो गया, और नाम-आधारित असमानताएं और अधिक बढ़ गईं। एक और रोचक बात यह रही कि कम जोखिम वाले परिदृश्य, जैसे साइकिल खरीद की वार्ता में, सांस्कृतिक अंतर नगण्य रहे। इससे स्पष्ट होता है कि यह पूर्वाग्रह आर्थिक दांव के पैमाने के साथ बढ़ता है।
Host: यह अध्ययन व्यापारिक और संगठनात्मक दृष्टिकोण से क्यों महत्वपूर्ण है? पेशेवरों के लिए इसके क्या व्यावहारिक सबक हैं?
Expert: इसके सीधे व्यावहारिक निहितार्थ हैं। पहला, संगठनों और करियर सलाह देने वाले प्लेटफार्मों को यह समझना होगा कि जेनेरेटिव एआई का उपयोग करते समय प्रॉम्प्ट में अनावश्यक व्यक्तिगत या सांस्कृतिक पहचान शामिल करने से बचना चाहिए। इसे प्रॉम्प्ट हाइजीन कहा जा सकता है। दूसरा, जो उद्यम मानव संसाधन या वार्ता सहायता के लिए एआई उपकरण लागू कर रहे हैं, उन्हें नियमित एल्गोरिथम ऑडिट करने की आवश्यकता है ताकि अनपेक्षित आर्थिक असमानताओं से बचा जा सके। और तीसरा, केवल मॉडल को अपग्रेड करना निष्पक्षता की गारंटी नहीं देता; इसके लिए स्पष्ट सुरक्षा मानकों की आवश्यकता होती है।
Host: संक्षेप में, एआई-आधारित वार्ता सलाह का लाभ उठाते समय सांस्कृतिक निष्पक्षता और वस्तुनिष्ठ डेटा इनपुट पर ध्यान देना आवश्यक है। इस स्पष्ट विश्लेषण के लिए एलेक्स, आपका धन्यवाद।
Expert: धन्यवाद, अन्ना।
Host: और हमारे सभी श्रोताओं का भी धन्यवाद। सुनते रहिए A.I.S. Insights — powered by Living Knowledge। अगले अंक में फिर मिलेंगे।

Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

AIS eLibrary में शोध पत्र पढ़ें

Generative AI, algorithmic bias, cultural bias, algorithmic auditing, decision support systems, salary negotiation