返回资源库

核心问题

AI 处理 · 作者审核

组织该如何有效设计和应用人工智能,以支持商业决策?

Design principles for artificial intelligence-augmented decision making: An action design research study
Savindu Herath Pathirannehelage, Yash Raj Shrestha, Georg von Krogh · European Journal of Information Systems · 2024

99 次浏览 · 5 次收听

配图:组织该如何有效设计和应用人工智能,以支持商业决策?

加载 Spotify 播放器;Spotify 可能会设置 Cookie。本设备将记住您的选择。

主要发现

  • 制定战略数据路线图,将AIADM应用场景与业务模式需求、资源和能力相匹配。
  • 确保输入数据、AI模型和可视化输出之间的协同效应,以体现切实的商业价值。
  • 实施伦理AI治理框架及审计机制,以确保合规性并建立利益相关者的信任。
  • 在设计和执行中保持人类参与,以整合领域专业知识并保留决策问责制。
  • 树立迭代设计思维,专注于随着时间推移的持续学习、适应和系统改进。
  • 利用开源工具和外部专家合作关系,以缓解人才和资源局限。

实践启示

CIO / IT 高管

Schedule a 30-minute kickoff meeting with your heads of data science, infrastructure, and business intelligence to review the company's current AIADM initiatives and identify one high-priority business model requirement for AIADM to address within the next quarter.

IT 经理

Initiate a preliminary audit of existing data pipelines and AI model repositories, specifically noting any inconsistencies or gaps in documentation that hinder synergy between input data, AI models, and visual outputs.

商业战略师

Draft a concise one-page document outlining at least two specific AIADM use cases that directly align with the company's current strategic objectives, identifying the key data inputs and desired decision outcomes for each.

研究人员

Review the internal documentation for the AIADM system currently in use, and identify one specific instance where human domain expertise could have significantly improved the AI's output or decision recommendation.

政策制定者

Begin drafting a preliminary checklist of essential components for an ethical AI governance framework, focusing on elements relevant to data privacy, bias detection, and clear lines of decision accountability for AI-augmented decisions.

摘要

本研究探讨了组织如何有效地设计和部署人工智能增强型决策(AIADM)系统。作者在一家在线时尚零售公司内部采用了行动设计研究方法,开发并评估了一个AIADM系统,以支持客户细分、客户留存和产品组合重构等方面的决策。

核心问题

传统决策支持系统依赖于预定义规则和人类的主导性,这使得现有的设计知识难以直接应用于自适应AI系统。组织在采用AIADM系统时面临着重大挑战,包括随机性输出、决策权限模糊、合规与监管考量以及资源限制。

文稿
Host: 欢迎收听《A.I.S. Insights — powered by Living Knowledge》。我是主持人 Anna Ivy Summers。今天我们要探讨一个在企业智能化转型中非常核心的话题——“人工智能增强型决策的设计原则”。随着人工智能技术的快速演进,企业该如何有效设计并部署这类决策系统呢?今天我们很荣幸邀请到了资深分析师 Alex Ian Sutherland。欢迎你,Alex!

Expert: 谢谢 Anna,很高兴来到这里和大家交流。

Host: Alex,能否先为我们的听众简单介绍一下,这项研究主要关注了哪些内容?

Expert: 好的,这项研究的核心在于探讨组织如何有效地设计和部署“人工智能增强型决策”系统,简称 AIADM。研究团队深入到一家在线时尚零售公司的真实业务环境中,运用“行动设计研究”方法开发并评估了一套 AIADM 系统。这套系统被直接应用于客户细分、客户留存策略制定以及产品组合重构等关键决策场景。

Host: 听起来这非常贴近如今数据驱动型企业的现实需求。那么,为什么企业在引入此类 AI 系统时会遇到巨大的阻力?这项研究指出的核心痛点是什么?

Expert: 这正是这项研究解决的关键问题。传统的决策支持系统大多依赖预先定义的硬性规则,并完全由人类占主导地位。但现代 AI 系统具有自适应性和概率性输出的特点,这就导致现有的传统设计原则无法直接套用。

Host: 也就是说,AI 的输出具有随机性和不确定性,不像以前那样“按按钮就出固定答案”。

Expert: 没错!这种随机性给企业带来了四大挑战:首先是决策权限变得模糊,管理者不知道该听 AI 的还是听自己的;其次是合规与监管考量,尤其是在数据隐私和伦理方面;第三是资源和人才的局限;最后则是缺少能将技术与商业目标完美契合的设计框架。如果直接把自适应 AI 强塞进旧的决策流程里,往往会导致混乱或项目失败。

Host: 了解了。针对这些痛点,研究团队具体采用了怎样的研究方法来探索解决方案呢?

Expert: 他们采用了“行动设计研究”方法,英文简称 ADR。这种方法最大的特点在于,它不是在实验室里做理论推演,而是研究人员与零售企业的业务团队紧密配合,在真实的商业场景中一边设计、一边部署、一边评估和改进。他们把 AIADM 系统应用到了客户细分、预测客户流失并制定留存策略,以及优化产品上架组合这三个高价值场景中,从而总结出了最具实践价值的设计原则。

Host: 这种深入商业一线的实践方法,得出的结论一定非常有落地指导意义。那么,这项研究最终得出了哪些核心成果和设计原则呢?

Expert: 研究团队总结出了六大关键设计原则。第一,企业必须制定战略数据路线图。这意味着不能为了做 AI 而做 AI,而是要把 AIADM 的具体应用场景,与企业的商业模式需求、内部资源和能力进行深度匹配。

Host: 技术必须服务于商业目标,这确实是第一步。那第二和第三点原则是什么呢?

Expert: 第二点是实现“协同效应”。研究强调,输入数据、AI 模型和可视化的前端输出三者之间必须形成无缝协同,才能将复杂的算法转化为切实可见的商业价值。第三点是建立“伦理 AI 治理框架与审计机制”。通过明确的治理和审计,确保系统的合规性,并建立起管理层和员工对 AI 决策的信任。

Host: 信任确实是 AI 落地的一大门槛。在人机交互方面,这项研究有什么发现?

Expert: 这就到了第四点原则:在设计和执行中始终保持“人类参与”,也就是所谓的 Human-in-the-loop。AI 的作用是“增强”决策,而不是完全取代人类。保持人类参与可以有效融合行业领域专家知识,并明确最终决策的问责制。

Host: 这样既发挥了 AI 处理海量数据的优势,又保留了人类的专业经验和责任心。那么最后两点原则呢?

Expert: 第五点是树立“迭代设计思维”。AIADM 系统不是上线就完事了,而是需要随着时间和业务环境的变化,进行持续的学习、适应和改进。第六点,针对许多企业面临的人力与资源短缺问题,研究建议善于利用开源工具以及与外部专家建立合作关系,以此来缓解人才局限。

Host: 这六大原则可以说为企业搭建 AI 增强型决策系统提供了一份极其清晰的“实战蓝图”。Alex,如果把这些成果落实到企业领导者的日常决策中,最重要的商业启示是什么?

Expert: 最核心的启示在于,AI 转型绝非单纯的 IT 技术升级,而是一项关于“决策工作流”的战略重构。商业领袖应该停止将 AI 视为一个不可知、不可控的黑盒,而是要将其定位为人类决策者的“超级助手”。企业不需要一上来就投入海量资金建大模型,完全可以通过明确的数据路线图、借助开源生态与外部合作,在保留人类核心决策权的同时,小步快跑、迭代优化。这样不仅能显著降低尝试成本,还能真正让数据转化为业务增长的引擎。

Host: 总结得非常精辟!从“替代”转向“增强”,在治理与业务目标的指引下进行持续迭代,这才是 AI 真正赋能商业的正确打开方式。非常感谢 Alex 今天为我们带来的深度解读!

Expert: 不客气,很开心能探讨这项优秀的研究成果。

Host: 感谢大家收听《A.I.S. Insights — powered by Living Knowledge》。希望本期的分享能为您的商业决策带来启发。我们下期再见!
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

AI-augmented decision making, artificial intelligence, decision support systems, design principles, action design research, human-AI ensemble