加载 Spotify 播放器；Spotify 可能会设置 Cookie。本设备将记住您的选择。
主要发现
- 对话代理中更高的感知拟人性在发生轻微错误时能够维持对情境常态性的感知。
- 维持的情境常态性减少了用户将错误原因归因于代理的倾向，从而保护了整体服务满意度。
- 拟人化对话代理犯下的错误与人类服务代理犯下的错误处理方式相似，这表明拟人化设计可以减轻算法厌恶。
实践启示
CIO / IT 高管
Allocate budget to pilot the integration of more human-centric design principles (e.g., nuanced language, empathetic phrasing) into our core customer-facing conversational agent, focusing on areas where process errors are most common, to preemptively reduce user error attribution and maintain satisfaction.
IT 经理
Task your development team to review our current conversational agent's dialogue logs for instances of process errors and identify the top 3 most frequent error types to begin redesigning their responses with more humanlike cues (e.g., slight pauses, conversational fillers) to normalize the situation for users.
商业战略师
Initiate a cross-functional workshop with marketing and product development to explore how to strategically position our conversational agents' perceived humanness in customer communications, emphasizing its role in creating a seamless experience even when minor technical glitches occur.
研究人员
Begin designing a follow-up study that experimentally manipulates specific humanlike conversational features (e.g., varying levels of politeness, acknowledgment of difficulty) within a simulated error scenario to quantify their direct impact on error attribution and situational normality, building upon the findings of Artificial Normality.
政策制定者
Convene a small working group to draft guidelines for the ethical development of conversational agents, recommending that AI design standards encourage the incorporation of humanlike qualities to enhance user experience and mitigate negative reactions to inevitable system errors, rather than solely focusing on pure efficiency.
摘要
本研究探讨了在服务交互过程中发生错误时，将对话代理（CA）设计得更具拟人性如何影响用户响应。通过两次随机在线实验，作者评估了感知拟人性、情境常态性和错误归因如何影响用户的服务满意度。
核心问题
对话代理经常犯下损害用户满意度的流程错误，因为用户倾向于将算法错误视为非自然的，并将责任归咎于系统。了解解释拟人化设计如何缓解这些负面反应的理论机制，仍然是人机交互研究中的一个关键空白。
文稿
Expert: 大家好，我是 Alex Ian Sutherland。很高兴能和 Anna 一起分享这项重要的研究。它对于任何正在将人工智能应用于客户服务的企业来说，都极具启发意义。
Host: Alex，现在很多企业都在使用 AI 对话代理来提供客户服务，但这些系统难免会犯错。这在现实中引发了什么问题呢？
Expert: 没错，Anna。现实中的核心痛点在于，当 AI 客服犯下哪怕是非常轻微的流程错误时，用户往往会产生“算法厌恶”。简单来说，人们倾向于认为算法犯错是不可接受的、是非自然的，因此会迅速把责任归咎于系统本身。这会导致用户满意度急剧下降，严重损害品牌形象。
Host: 听起来大家对 AI 的容忍度比对人类低得多。那么这项研究是如何探索这个问题的呢？
Expert: 研究团队通过两次随机在线实验来深入探索这个机制。研究者向测试者展示了不同拟人化程度的对话代理，并在服务交互中设定了轻微的错误场景。通过对比用户的反应，研究精准评估了感知拟人性、情境常态性以及错误归因这三者如何相互作用，最终影响用户的服务满意度。
Host: 这种实验设计非常严谨。那么研究得出了哪些关键结论呢？
Expert: 主要有三个核心发现。第一，当对话代理具有更高的感知拟人性时，即使发生轻微错误，用户依然能够保持对“情境常态性”的感知。换句话说，用户觉得“这很正常，就像平常与人类沟通一样”。
Host: 这很有意思！那么这种“常态感”带来了什么改变呢？
Expert: 这就引出了第二个发现：这种维持住的情境常态性，显著减少了用户将错误原因归咎于对话代理本身的倾向。因为错误被视为沟通中的正常波动，用户就不会严苛地归咎于 AI 的无能，从而保护了整体服务满意度。
Host: 也就是说，拟人化设计像是一种防震垫。
Expert: 完全正确。第三个发现正是如此：拟人化对话代理犯错时，用户的处理方式与对待人类服务人员犯错非常相似。这表明，恰当的拟人化设计能够有效减轻算法厌恶。
Host: 这对企业管理者和产品设计师来说意味着什么？我们在商业实践中该如何应用这些发现？
Expert: 这为企业的人工智能服务策略提供了非常明确的指导。首先，企业不应该只把 AI 拟人化当作一种视觉或语音上的噱头，而应该将其视为一种“风险管理”策略。在对话界面中融入自然的情感表达、人类化的语言习惯和共情元素，能够提高系统的错误容忍度。
Host: 意思是，在完美的技术出现之前，拟人化可以为轻微的技术缺陷起到缓冲作用？
Expert: 可以这么理解。没有任何系统是百不失一的，在出现轻微服务故障时，拟人化设计能帮助企业守护住客户信任和满意度，进而保护商业投资回报率。
Host: 非常深刻的见解！总结来说，让 AI 更具人性化，不仅能提升平日的交互体验，更能在发生小错误时成为维护客户满意度的安全网。感谢 Alex 的精彩解答，也感谢大家的收听，我们下期 A.I.S. Insights 再见！
Expert: 谢谢大家，下期再见！
Chatbot, Chatbot errors, situational normality, anthropomorphism, humanness, error attribution, user satisfaction