返回资源库

核心问题

AI 处理 · 作者审核

生成式人工智能在数据质量管理中可以发挥哪些作用?领导者又该如何对其进行治理?

A Typology For Responsible Delegation Of Data Quality Management To Generative AI
Karen Roht, Anastasija Nikiforova, Hippolyte Lefebvre · European Conference on Information Systems (ECIS) · 2026

10 次浏览

配图:生成式人工智能在数据质量管理中可以发挥哪些作用?领导者又该如何对其进行治理?

加载 Spotify 播放器;Spotify 可能会设置 Cookie。本设备将记住您的选择。

主要发现

  • 构想了GenAI在DQM中的四种角色类型:翻译者(将自然语言转化为规则逻辑)、解释者(对异常和元数据进行叙述性总结)、解决者(数据纠错建议)以及集成者(跨系统模式对齐)。
  • 揭示了目前商业DQM工具中GenAI的采用率仍处于初级阶段(~17%),主要作为解释性副驾驶发挥作用,而非自主决策者。
  • 提出了五项理论治理指南,强调任务可分解性评估、高影响行为的强制性人类验证、反向委派协议、可解释性标准以及保留人类问责制。

实践启示

CIO / IT 高管

Initiate a review of your organization's current DQM tool landscape to identify which, if any, are actively experimenting with or have integrated GenAI capabilities, and schedule a follow-up meeting with the IT Manager to discuss initial findings and potential pilot opportunities based on the 'Translator' role.

IT 经理

Dedicate an hour to review the existing data quality rulebooks and documentation within your team's purview, noting down specific areas where natural language descriptions of data quality issues or desired rules are prevalent, to prepare for a discussion with the CIO/IT Executive about the potential application of the 'Translator' GenAI role.

商业战略师

Identify one critical business process that is currently hampered by data quality issues and then, using the 'Explainer' GenAI role as a conceptual framework, draft three potential narrative-style questions you would ask an AI about the root causes and impact of these data quality problems to present to stakeholders.

研究人员

Begin by outlining a research proposal to investigate the effectiveness and potential biases of GenAI 'Resolver' roles in correcting common data anomalies within a specific industry domain, drawing upon the governance guidelines related to mandatory human validation for high-impact actions.

政策制定者

Begin drafting a preliminary policy document that outlines the principle of 'retained human accountability' for any data quality decisions made or influenced by GenAI within the organization, focusing on the need for clear audit trails and oversight for 'Resolver' and 'Integrator' roles.

摘要

本研究探讨了生成式人工智能(GenAI)如何通过演进的委派模式,将数据质量管理(DQM)重塑为人机协作流程。作者采用混合方法,对209个DQM解决方案进行了系统性映射,并对11位领域专家进行了半结构化访谈,以概念化GenAI的角色及其治理影响。

核心问题

传统基于规则的数据质量管理耗费资源、缺乏弹性,且难以随着企业数据复杂性的增长而扩展。此外,在缺乏战略性人类监督的情况下整合GenAI会带来严重的组织风险,如模型幻觉、数据损坏、隐私泄露和责任边界不清。

文稿
Host: 欢迎收听 A.I.S. Insights — powered by Living Knowledge。我是主持人 Anna Ivy Summers。今天我们要探讨一个对于现代企业极其重要的前沿话题:如何负责任地将数据质量管理委派给生成式人工智能?我们非常高兴邀请到了专家 Alex Ian Sutherland。Alex 深度解读了一项最新研究,题目是《将数据质量管理负责任地委派给生成式人工智能的类型学》。Alex,欢迎你!

Expert: 谢谢 Anna,很高兴来到这里。这项研究非常有启发性,它探讨了生成式 AI 正在如何重塑数据质量管理,也就是我们常说的 DQM。它展示了 DQM 如何从传统的死板流程,演变为一种高效的人机协作模式。

Host: 确实,数据对于现在的企业来说就是命脉。不过 Alex,传统的 DQM 到底遇到了什么瓶颈?为什么我们需要引入生成式 AI?

Expert: 传统的 DQM 主要依赖人工编写固定的规则或脚本。这有三大痛点:第一,极其耗费时间和人力资源;第二,缺乏弹性——数据结构或格式稍微发生变化,规则就会失效;第三,随着企业数据量的爆炸式增长,传统方法根本无法有效扩展。

Host: 听起来确实很头疼。那么直接把生成式 AI 接入进来不就完美解决了吗?

Expert: 没那么简单。这项研究特别强调,如果在缺乏战略性人类监督的情况下盲目接入 GenAI,会带来严重的组织风险。例如,AI 可能会产生“幻觉”导致数据损坏,甚至引发数据隐私泄露和责任认定不清的问题。

Host: 明白,这可不是简单的“一键替换”。那这项研究是怎样开展分析的呢?

Expert: 研究人员采用了混合研究方法。他们系统性地调查了市场上的 209 个 DQM 解决方案,同时对 11 位资深数据治理专家进行了深度访谈。通过这种方式,研究建立了一个清晰的类型学框架,用来定义 AI 在其中的角色以及所需的治理机制。

Host: 这非常系统!那么这项研究归纳出了哪些 AI 在 DQM 中的具体角色呢?

Expert: 研究总结出了四种核心角色:第一是“翻译者”,负责把业务人员的自然语言转换成具体的规则逻辑;第二是“解释者”,用通俗的语言对数据异常和元数据进行叙述性总结;第三是“解决者”,主动提供数据纠错和修补建议;第四是“集成者”,帮助跨系统进行模式对齐。

Host: 这些角色分工非常清晰。那么目前企业在实际业务中的采用情况如何呢?

Expert: 令人意外的是,研究显示目前商业 DQM 工具中 GenAI 的实际采用率只有大约 17%。大部分工具中,AI 只是作为“解释者”或“副驾驶”存在,协助人类理解数据,而不是独立做出决策。

Host: 看来大家在安全和合规方面还是非常谨慎的。针对这种负责任的委派,这项研究提出了什么治理建议吗?

Expert: 研究提出了五项关键治理指南:包括评估任务的可分解性、对高影响决策实施强制的人类验证、建立反向委派机制——也就是 AI 遇到不确定情况时交还给人类、制定可解释性标准,以及始终保留人类的最终问责权。

Host: 这对于企业高管和数据团队来说具有非常重要的指导意义。Alex,从商业实践的角度看,企业领导者应该从中获得什么启示?

Expert: 首先,企业不应该期望一步到位让 AI 完全自动化一切,而应该将 GenAI 定位为提升专家效率的工具。其次,建立明确的人工干预流程至关重要——让 AI 处理重复、低风险的工作,而将高风险的决策留给人类。这样既能提升数据管理效率,又能把安全和风险控制在可承受范围内。

Host: 总结得非常到位!生成式 AI 带来了巨大的潜能,但唯有在完善的治理下,才能真正转化为企业的核心竞争优势。非常感谢 Alex 今天的精彩解读!

Expert: 不客气,很开心能分享这项研究的成果。

Host: 感谢大家的收听,这里是 A.I.S. Insights — powered by Living Knowledge。我们下期再见!
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

Data Quality Management, Generative AI, Human-AI Collaboration, AI Governance, Task Delegation, Agentic IS