عامل‌های هوش مصنوعی در مذاکرات تجاری تا چه حد حاشیه سود را حفظ کرده و بودجه را رعایت می‌کنند؟

Host: سلام و به پادکست A.I.S. Insights — powered by Living Knowledge خوش آمدید. من آنا آیوی سامرز هستم و امروز به بررسی یک مطالعه جدید با عنوان «تثبیت‌شده روی پنجاه-پنجاه: نحوه چانه‌زنی عامل‌های مدل‌های زبانی بزرگ میان ارائه‌دهندگان مختلف» می‌پردازیم. این مطالعه توسط یولیا گربشوک انجام شده و در کنفرانس بین‌المللی سیستم‌های اطلاعاتی یعنی ICIS سال ۲۰۲۶ ارائه شده است. در کنار من الکس ایان سادرلند، تحلیل‌گر داده‌ها حضور دارد. الکس، این مطالعه رفتار راهبردی عامل‌های مبتنی بر هوش مصنوعی را در جایگاه نمایندگان تجاری بررسی می‌کند؛ شروع ماجرا از کجاست؟
Expert: درود آنا. هسته اصلی این پژوهش بررسی این موضوع است که وقتی مذاکرات دوجانبه اقتصادی را به عامل‌های خودمختار هوش مصنوعی واگذار می‌کنیم، چه اتفاقی رخ می‌دهد. امروزه سازمان‌ها زیرساخت‌های تجارت مبتنی بر عامل‌ها را توسعه می‌دهند و تصمیم‌گیری‌های مالی را به الگوریتم‌ها می‌سپارند. اما چالش بنیادین، مسئله کارفرما-کارگزار است؛ مدل‌های زبانی برای همکاری و دستیابی به مصالحه آموزش دیده‌اند، و این ویژگی می‌تواند باعث شود رسیدن به توافق را بر حفظ خطوط قرمز مالی یا به دست آوردن حداکثر ارزش برای مالک انسانی ترجیح دهند.
Host: این ریسک مستقیمی برای منابع مالی سازمان‌ها ایجاد می‌کند. پژوهشگر دقیقاً چگونه این مسئله را ارزیابی کرده است؟
Expert: در این مطالعه، ۱٬۲۹۶ مذاکره شبیه‌سازی شد. این ارزیابی روی ۹ مدل از ۳ ارائه‌دهنده اصلی و در ۳ سطح توانمندی پردازشی اجرا شد. سناریوها شامل مدل‌های استاندارد نظریه بازی‌ها، مانند چانه‌زنی و اولتیماتوم، و همچنین سناریوهای واقع‌گرایانه تدارکات شرکتی با پرامپت‌های ساختاریافته بود تا مشخص شود آیا عامل‌ها مازاد سود را بیشینه می‌کنند یا تسلیم سازش‌های شهودی می‌شوند.
Host: و نتایج در محیط‌های نظریه بازی‌ها چه چیزی را نشان داد؟
Expert: عامل‌ها در ۹۹٫۸ درصد مراحل نظریه بازی به توافق دست یافتند. با این حال، رفتار آن‌ها به شدت به سمت تقسیم مساوی ۵۰/۵۰ متمایل بود. حتی در موقعیت‌هایی که مدل‌ها برتری ساختاری کامل داشتند و می‌توانستند سهم بسیار بیشتری کسب کنند، باز هم مازاد سود در دسترس را واگذار کردند و به تقسیم برابر روی آوردند.
Host: این تمایل به سازش، در معاملات تجاری دنیای واقعی چه پیامدی به همراه دارد؟
Expert: در سناریوهای تدارکات، پیامدهای پرهزینه‌تری مشاهده شد. در ۱۱٫۳ درصد از کل معاملات انجام‌شده، عامل‌های مستقل از سقف بودجه تعیین‌شده تخطی کردند. علاوه بر این، در ۹٫۷ درصد از مواردی که هیچ محدوده مشترکی برای توافق تجاری وجود نداشت و معامله از نظر اقتصادی توجیه‌ناپذیر بود، عامل‌ها همچنان اقدام به بستن قرارداد کردند.
Host: بستن قرارداد در شرایطی که اساساً نباید معامله‌ای رخ دهد، نشان‌دهنده نقص کنترل مالی است. آیا روشی برای رفع این نقص شناسایی شد؟
Expert: بله، این مطالعه نشان داد که اضافه کردن یک مرحله نظارتی و اعتبارسنجی پیش از امضای قرارداد، موارد نقض محدوده مجاز را تا سه چهارم کاهش می‌دهد و از ۹٫۷ درصد به ۲٫۴ درصد می‌رساند، بدون آنکه مانع از توافق‌های سودآور شود. همچنین، پرامپت‌های صریح برای بیشینه‌سازی سود توانستند تمایل به تقسیم مساوی را از ۲۰٫۸ درصد به ۱٫۸ درصد کاهش دهند؛ هرچند این دستورها تنها زمانی به بهبود انطباق اقتصادی منجر شدند که مدل دارای توانمندی استدلال پیشرفته بود.
Host: مدل‌های پیشرفته‌تر در کل رفتار متفاوتی داشتند؟
Expert: بله، تفاوت مشخصی در نقش‌ها وجود داشت. مدل‌های قدرتمندتر در جایگاه پاسخ‌دهنده، توانایی بسیار بالاتری در رد پیشنهادهای نامطلوب داشتند. با این وجود، همین مدل‌ها در نقش ارائه‌دهنده پیشنهاد اولیه، بهبود قابل‌توجهی در بهینه‌سازی پیشنهاد از خود نشان ندادند.
Host: این یافته‌ها از دیدگاه مدیران و رهبران کسب‌وکار چه اهمیتی دارند؟ چه اقداماتی باید انجام شود؟
Expert: مهم‌ترین نتیجه عملیاتی این است که سازمان‌ها نباید فرآیند خرید یا فروش را بدون لایه‌های کنترلیِ ساخت‌یافته به مدل‌های زبانی واگذار کنند. نخست، معماری سیستم باید مجهز به گام‌های اعتبارسنجی و نظارتی مستقل باشد تا از نقض بودجه جلوگیری شود. دوم، تنظیم پرامپت‌های سودمحور به‌تنهایی برای مدل‌های ساده‌تر کافی نیست و باید از مدل‌های دارای توان استدلال بالا استفاده کرد. و سوم، شرکت‌ها باید سیستم‌هایی ایجاد کنند که پیشنهادهای آغازین را ساختاردهی کنند، زیرا تکیه بر خودکارسازیِ صرف در پیشنهادهای اولیه مازاد سود را از بین می‌برد.
Host: بسیار روشن و راهبردی بود. خلاصه اینکه عامل‌های هوش مصنوعی تمایل ساختاری به سازش به قیمت از دست رفتن ارزش اقتصادی دارند، و مهار این رفتار مستلزم به‌کارگیری لایه‌های نظارتی مشخص و مدل‌های استدلال‌محور است. الکس، از تحلیل دقیق شما سپاسگزارم، و از همراهی شما شنوندگان گرامی در این قسمت از پادکست A.I.S. Insights ممنونم. تا برنامه بعدی، خدانگهدار.