بازگشت به کتابخانه

پرسش کلیدی جدید

پردازش‌شده با هوش مصنوعی · تأییدشده توسط نویسنده

چرا متخصصان با وجود تردید در ارزش عملی توصیه‌های هوش مصنوعی از آن‌ها پیروی می‌کنند و این امر چه پیامدهایی دارد؟

Ethical Uncertainty in Human-AI Collaborative Decision-Making: A Study of AI-Assisted Radiology
Yao Ma, Ela Klecun · International Conference on Information Systems (ICIS) · 2026
تصویر برای: چرا متخصصان با وجود تردید در ارزش عملی توصیه‌های هوش مصنوعی از آن‌ها پیروی می‌کنند و این امر چه پیامدهایی دارد؟

پخش‌کننده Spotify بارگذاری می‌شود؛ ممکن است Spotify کوکی‌هایی تنظیم کند. این دستگاه انتخاب شما را به خاطر می‌سپارد.

یافته‌های کلیدی

  • در حالی که متخصصان خطاهای آشکار هوش مصنوعی را به‌سادگی رد می‌کنند، به دلیل تعارض اخلاقی میان آگاه‌سازی بیمار و پرهیز از اضطراب غیرضروری در او، در رد یافته‌های بالینی کم‌اهمیت هوش مصنوعی مردد هستند.
  • فشارهای موقعیتی، مانند اعتراضات بیماران به گزارش‌های متناقض و قابلیت استناد به سوابق نشان‌دارشده توسط هوش مصنوعی در دعاوی قصور پزشکی، متخصصان را به سوی تبعیت تدافعی از خروجی‌های هوش مصنوعی سوق می‌دهد.
  • متخصصان با گزارش تمام موارد نشان‌دارشده توسط هوش مصنوعی، رویکرد تبعیت احتیاطی را در پیش می‌گیرند تا از نظر حقوقی از خود محافظت کنند؛ امری که بار تصمیم‌گیری و آزمایش‌های غیرضروری را به پزشکان سطوح بعدی و بیماران منتقل می‌کند.
  • متخصصان همچنین با اتخاذ ادبیات مبهم و محتاطانه در گزارش‌ها از تبعیت نشانه‌دهنده استفاده می‌کنند تا به‌طور غیررسمی ملاحظات تشخیصی خود را به تصمیم‌گیرندگان بعدی گوشزد نمایند.
  • یافته‌ها پیشنهاد می‌کنند که طراحان سیستم و نهادهای تنظیم‌گر باید به‌جای تحمیل جریان‌های کاری صلب مبتنی بر پذیرش یا رد، سازوکارهای واسطه‌ای تعاملی و گزینه‌های گزارش‌دهی غیردوگانه را ایجاد کنند.

معنای آن برای شما

مدیر ارشد فناوری اطلاعات

Initiate a procurement review to mandate that all AI vendor contracts include non-binary reporting options and interactive buffer mechanisms, moving away from rigid accept-or-override workflows.

مدیر فناوری اطلاعات

Configure the radiology reporting software interface to remove binary forced-choice prompts for AI-flagged nodules and add a standardized 'hedging/clinical reservation' tagging option.

استراتژیست کسب‌وکار

Partner with hospital legal counsel and risk management on Monday morning to draft institutional liability guidelines that protect clinicians from malpractice penalties when legitimately dismissing clinically insignificant AI findings.

پژوهشگر

Design a qualitative study to track the downstream cascading burden and patient anxiety caused by precautionary adherence to AI-flagged incidentalomas in tertiary care settings.

سیاست‌گذار

Draft regulatory guidance clarifying that failure to follow unvalidated, clinically insignificant AI screening flags does not constitute negligence in medical malpractice litigation.

خلاصه

این مطالعه کیفی به بررسی چگونگی درک و اعمال صلاحدید متخصصان حوزه سلامت در هنگام همکاری با هوش مصنوعی در شرایط عدم قطعیت اخلاقی می‌پردازد. نویسندگان مشاهدات میدانی، تحلیل اسناد و ۳۹ مصاحبه را در سه بیمارستان فوق‌تخصصی در چین که سیستم غربالگری ندول ریه با هوش مصنوعی را به کار گرفته بودند، انجام دادند.

مسئله

پژوهش‌های پیشین پیرامون همکاری انسان و هوش مصنوعی عمدتاً بر عدم قطعیت دانش و عدم شفافیت تمرکز داشته و معیارهای شفافی را برای تعیین خروجی درست مفروض می‌دانند. با این حال، شاغلان در محیط‌های حرفه‌ای اغلب با عدم قطعیت اخلاقی روبه‌رو هستند، جایی که تعهدات اخلاقی متضاد و مسئولیت حقوقی، تعیین مسیر اقدام درست را مبهم می‌سازد.

متن گفتار
Host: به پادکست «ای‌آی‌اس اینسایتس» با پشتیبانی «لیوینگ نالج» خوش آمدید. من آنا آیوی سامرز هستم و امروز به همراه همکارم، الکس ایان ساترلند، قصد داریم به بررسی یک مطالعه علمی جدید بپردازیم. این مطالعه با عنوان «عدم قطعیت اخلاقی در تصمیم‌گیری مشارکتی انسان و هوش مصنوعی: مطالعه‌ای در رادیولوژی مبتنی بر هوش مصنوعی» توسط یائو ما و الا کلکون انجام شده و در کنفرانس بین‌المللی سیستم‌های اطلاعاتی ارائه گردیده است. این پژوهش بررسی می‌کند که متخصصان سلامت در مواجهه با عدم قطعیت اخلاقی هنگام کار با سامانه‌های هوش مصنوعی، چگونه صلاحدید حرفه‌ای خود را به کار می‌گیرند. الکس، خوش آمدید.

Expert: سلام آنا، از حضور در این برنامه خوشحالم. برای درک بهتر این موضوع، باید ابتدا به مشکلی بپردازیم که این مطالعه بر آن دست گذاشته است. بخش عمده پژوهش‌های گذشته درباره همکاری انسان و هوش مصنوعی، بر عدم قطعیت ناشی از کمبود دانش یا شفاف نبودن الگوریتم‌ها متمرکز بوده‌اند. در آن مدل‌ها فرض می‌شد که همیشه یک پاسخ درست و عینی وجود دارد که اگر سیستم شفاف باشد، به آن دست می‌یابیم. اما در محیط‌های واقعی، متخصصان با موقعیت‌هایی مواجه می‌شوند که پاسخ قطعی ندارد؛ یعنی شرایطی از عدم قطعیت اخلاقی که در آن وظایف حرفه‌ای متعارض و مسئولیت‌های حقوقی، مسیر صحیح اقدام را مبهم می‌سازد.

Host: پژوهشگران برای بررسی این مسئله در محیط واقعی چه رویکردی را دنبال کردند؟

Expert: نویسندگان مطالعه از یک روش‌شناسی کیفی استفاده کردند. آنها مشاهدات میدانی، تحلیل اسناد و ۳۹ مصاحبه عمیق را در سه بیمارستان فوق‌تخصصی در چین انجام دادند؛ مراکزی که سیستم هوش مصنوعی غربالگری ندول ریه را در فرایندهای بالینی خود ادغام کرده بودند. این بستر به آنها اجازه داد رفتار رادیولوژیست‌ها را در تعامل روزمره با خروجی‌های هوش مصنوعی به‌طور دقیق مشاهده کنند.

Host: یافته‌های اصلی این مطالعه چه مسائلی را روشن ساخت؟

Expert: نتایج نشان داد که رفتار رادیولوژیست‌ها بر اساس ماهیت خروجی هوش مصنوعی تغییر می‌کند. زمانی که سیستم یک خطای آشکار مرتکب می‌شود، متخصصان بدون تردید آن را رد می‌کنند. اما چالش اصلی زمانی رخ می‌دهد که هوش مصنوعی یافته‌های بالینی بسیار کم‌اهمیت یا مبهم، مانند ندول‌های بسیار کوچک، را علامت‌گذاری می‌کند. در این نقاط، رادیولوژیست میان دو تعهد اخلاقی گرفتار می‌شود: آیا باید همه موارد را گزارش کند تا بیمار مطلع شود، یا برای جلوگیری از اضطراب و اقدامات درمانی تهاجمی غیرضروری، از ذکر آن چشم‌پوشی کند؟

Host: و در این نقطه، عوامل بیرونی مانند مسئولیت‌های حقوقی وارد عمل می‌شوند. درست است؟

Expert: دقیقاً. فشارهای موقعیتی مانند احتمال شکایت بیماران به دلیل گزارش‌های متناقض و این واقعیت که سوابق ذخیره‌شده هوش مصنوعی می‌تواند در دعاوی قصور پزشکی مورد استناد قرار گیرد، متخصصان را به سمت نوعی تبعیت تدافعی سوق می‌دهد. این تبعیت به دو شکل بروز می‌کند. شکل اول، تبعیت احتیاطی است؛ رادیولوژیست تمام موارد نشانه‌گذاری‌شده توسط هوش مصنوعی را در گزارش نهایی درج می‌کند تا از نظر قانونی از خود محافظت کند. نتیجه عملی این رفتار، انتقال بار تصمیم‌گیری، استرس و انجام آزمایش‌های مکرر به پزشکان بالینی و خود بیماران است.

Host: و شکل دوم تبعیت چیست؟

Expert: شکل دوم، تبعیت نشانه‌دهنده نامیده شده است. رادیولوژیست‌ها یافته هوش مصنوعی را حذف نمی‌کنند، اما با استفاده از واژگان مبهم، محتاطانه و غیررسمی در متن گزارش، به پزشک بعدی نشان می‌دهند که از نظر تجربی به این یافته مشکوک هستند یا آن را کم‌اهمیت تلقی می‌کنند، بدون آنکه خود را از نظر حقوقی آسیب‌پذیر کنند.

Host: این یافته‌ها از منظر کاربرد عملی و مدیریت کسب‌وکار فناوری سلامت چه اهمیتی دارد؟

Expert: پیام اصلی برای مدیران سلامت و طراحان سیستم‌های سازمانی این است که هوش مصنوعی را نمی‌توان صرفاً با منطق صفر و یکی «پذیرش یا رد» طراحی کرد. هنگامی که یک رابط کاربری فقط گزینه تایید یا رد را ارائه می‌دهد، متخصصان برای محافظت از خود ناچار به پذیرش محافظه‌کارانه خروجی‌ها می‌شوند. طراحان باید سازوکارهای تعاملی واسطه‌ای و گزینه‌های گزارش‌دهی غیردوگانه ایجاد کنند. علاوه بر این، نهادهای تنظیم‌گر و سازمان‌ها باید چارچوب‌های پاسخگویی حقوقی را بازنگری کنند تا استفاده از هوش مصنوعی منجر به آزمایش‌های بیش از حد و اتلاف منابع نشود.

Host: در واقع، طراحی تعامل انسان و سیستم باید پیچیدگی‌های تعهدات حرفه‌ای و بار حقوقی تصمیم‌گیرندگان را به رسمیت بشناسد. الکس، از توضیحات دقیق شما سپاسگزارم. همچنین از شما شنوندگان گرامی که در این قسمت از «ای‌آی‌اس اینسایتس» همراه ما بودید، متشکریم. تا برنامه بعدی، خدانگهدار.
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

Ethical uncertainty, human-AI collaboration, professional discretion, artificial intelligence, clinical decision-making, radiology