چگونه باید چت‌بات‌های هوش مصنوعی مولد را برای ارائه پشتیبانی ایمن و موثر از سلامت روان طراحی کرد؟

Host: به پادکست A.I.S. Insights — powered by Living Knowledge خوش آمدید. من آنا آیوی سامرز هستم و امروز به بررسی یک مطالعه جدید با عنوان «ملاحظات طراحی برای ابزارهای هوش مصنوعی مولد در مراقبت‌های سلامت روان» می‌پردازیم. این مطالعه توسط پولینا دورنوا، یوان ژانگ و سوهی لی انجام شده و در کنفرانس بین‌المللی سیستم‌های اطلاعاتی یعنی ICIS سال ۲۰۲۶ ارائه شده است. تمرکز این پژوهش بر ارزیابی و تدوین راهنماهای طراحی برای چت‌بات‌های هوش مصنوعی است که جهت مدیریت استرس توسعه می‌یابند. همراه من در استودیو، تحلیل‌گر برنامه، الکس ایان ساترلند حضور دارد. الکس، خوش آمدید.
Expert: ممنون آنا. خوشحالم که اینجا هستم تا این مطالعه کاربردی را بررسی کنیم.
Host: الکس، برای شروع، چه مسئله‌ای در دنیای واقعی باعث شد پژوهشگران به سراغ این موضوع بروند؟
Expert: چالش اصلی، کمبود گسترده متخصصان سلامت روان و انگ اجتماعی ناشی از مراجعه به درمانگران است که دسترسی به خدمات را محدود می‌کند. ابزارهای هوش مصنوعی مولد می‌توانند خدمات پشتیبانی را در مقیاس وسیع ارائه دهند، اما مدل‌های عمومی با چالش‌هایی مثل تولید محتوای نادرست یا توهم، عدم اتکا به شواهد علمی و ضعف در شناسایی و مدیریت موقعیت‌های بحرانی روبرو هستند. این مطالعه بررسی می‌کند که چگونه می‌توان این ابزارها را به شکلی ایمن و قابل اعتماد برای کاربران طراحی کرد.
Host: تیم تحقیق برای بررسی این مسئله از چه روشی استفاده کردند؟
Expert: آن‌ها از متدولوژی پژوهش علم طراحی استفاده کردند. در گام نخست، نیازهای کاربران از طریق مصاحبه با ۲۰ دانشجو شناسایی شد. سپس یک چت‌بات اختصاصی مبتنی بر منابع معتبر سلامت روان توسعه یافت. در مرحله ارزیابی، دو گروه مشارکت داشتند: یک پانل متشکل از ۱۲ متخصص بالینی و انفورماتیک پزشکی، و یک گروه شامل ۲۶ دانشجو برای سنجش کاربردپذیری. در نهایت، داده‌های به‌دست‌آمده به اصول طراحی مشخص تبدیل شدند.
Host: نتایج این ارزیابی‌ها چه نکاتی را نشان داد؟
Expert: نتایج دو جنبه متفاوت داشت. از یک سو، کاربران و متخصصان به چت‌بات برای استفاده از زبان ساده، توانایی اعتبارسنجی احساسات، انتقال حس همدلی و سهولت کاربری امتیاز بالایی دادند. کاربران اشاره کردند که ابزار به آن‌ها در تجزیه فشارهای روانی به اقدامات عملی کمک کرده است. اما از سوی دیگر، نقص‌های مشخصی مشاهده شد؛ از جمله ضعف در حفظ پیوستگی موضوع گفتگو در تعاملات طولانی، اتکای ناکافی به ارجاعات علمی، ایجاد بار شناختی به دلیل ارائه حجم زیاد متن، و خطاهایی در شناسایی دقیق نشانه‌های بحران حاد.
Host: این یافته‌ها از دیدگاه تجاری و برای فعالان حوزه سلامت دیجیتال چه اهمیتی دارد؟
Expert: این مطالعه چهار دستورالعمل عملیاتی را استخراج کرده است که مستقیماً برای مدیران محصول و توسعه‌دهندگان فناوری‌های سازمانی قابل استفاده است. نخست، سیستم‌ها باید از بازیابی چندمرحله‌ای اطلاعات همراه با ذکر شفاف منابع علمی استفاده کنند. دوم، پاسخ‌های همدلانه باید با توجه به زمینه گفتگو هدایت شوند نه به شکل الگوهای از پیش تعیین‌شده. سوم، اطلاعات باید به شکل گام‌به‌گام و متناسب با ظرفیت شناختی و سطح سواد سلامت کاربر ارائه شود تا از سردرگمی جلوگیری کند. و در نهایت، باید یک سازوکار اختصاصی و چندمرحله‌ای برای پایش بحران وجود داشته باشد که در صورت لزوم، کاربر را بلافاصله به خطوط تلفنی یا متخصصان انسانی ارجاع دهد.
Host: این اصول برای کسب‌وکارهایی که می‌خواهند خدمات پشتیبانی روان‌شناختی به کارکنان یا مشتریان ارائه دهند، اهمیت زیادی در کنترل ریسک دارد.
Expert: دقیقاً. شرکت‌هایی که ابزارهای هوش مصنوعی را در برنامه‌های رفاهی سازمانی به کار می‌گیرند، با رعایت این چارچوب‌ها می‌توانند خطرات حقوقی، بالینی و اعتباری را کاهش دهند و ابزاری با کارایی واقعی طراحی کنند.
Host: الکس، از تحلیل روشن و ارائه‌ات بسیار سپاسگزارم. و تشکر از شما شنوندگان گرامی که در این قسمت از A.I.S. Insights همراه ما بودید. تا برنامه بعد، خدانگهدار.