加载 Spotify 播放器；Spotify 可能会设置 Cookie。本设备将记住您的选择。
主要发现
- 本研究将人工智能自主性概念化为包含两个维度：生成自主性（内容创作）和工作流自主性（流程与系统交互），这一点得到了案例分析的质性支持。
- 研究识别出20种不同的部署后实践，分为驾驭增值自主性（如实时审计和语义资源丰富）或降低无用自主性（如架构编织和资源断路器），这一点得到了案例分析的质性支持。
- 分析识别出‘规避效应’，即管理某一维度的自主性时需要保持另一维度的自主性，这一点得到了案例分析的质性支持。
- 研究识别出一种‘潜在’关系，即降低工作流自主性构建了结构性基础，使提供商能够进一步限制生成自主性，这一点得到了案例分析的质性支持。
- 研究结果受到七个案例的探索性、质性研究性质的局限，未定量测量具体实践的运营效率、安全性或经济影响，同时也受到当前系统有限的时间自主性的局限。
实践启示
CIO / IT 高管
Audit your organization's active GenAI integrations and mandate the immediate implementation of 'resource circuit breakers'—hard programmatic limits on API calls and database writes—to restrict workflow autonomy and prevent runaway system actions.
IT 经理
Set up a 'real-time auditing' log pipeline for your team's customer-facing GenAI application to flag and review outputs where the system's confidence score drops below 80%, immediately routing those queries to human-in-the-loop agents.
商业战略师
Map your company's GenAI product features onto a 2x2 grid of Generative Autonomy vs. Workflow Autonomy to identify features where you can reduce risky workflow autonomy (e.g., auto-sending emails) without degrading the value of the generated content.
研究人员
Draft a research proposal for a quantitative empirical study that measures the operational latency, safety rates, and economic impacts of 'architectural weaving' vs. 'semantic resource enrichment' across B2B GenAI deployments.
政策制定者
Draft an update to your agency's AI procurement guidelines requiring vendors to prove they have 'averting effects' controls in place, specifically demonstrating how their systems constrain generative output risks when workflow autonomy is elevated.
摘要
本研究探讨了生成式人工智能系统提供商如何在部署后管理系统自主性。研究人员采用探索性多案例研究方法，分析了在企业对企业（B2B）、企业对消费者（B2C）及组织内部等场景中部署的七个运行系统。该分析整合了来自14次半结构化访谈的质性数据和直接系统测试，以构建自主性管理实践模型。
核心问题
生成式人工智能系统能够自主生成内容并协调工作流，但管理这种自主性会带来诸如幻觉、安全漏洞和操作错误等风险。尽管文献强调了管理人工智能系统的必要性，但缺乏实证研究来说明系统提供商如何在真实运行环境中平衡控制与自主性。这使得从业者在不牺牲系统效用的情况下管理部署后风险的指导十分有限。
文稿
Expert: 大家好，我是 Alex Ian Sutherland。确实，很多企业在部署生成式 AI 系统后，都会面临一个难题——AI 太过“有主见”，容易产生幻觉、安全漏洞甚至操作失误，但限制太严又会让它失去应有的价值。
Host: 没错！这也正是今天我们要深入探讨的一项重磅研究，标题叫《驾驭与降低生成式人工智能系统的生成自主性与工作流自主性：一项多案例研究》。Alex，能先简单跟我们说说这项研究关注的具体问题吗？
Expert: 当然。简单来说，现在的生成式 AI 不仅能写文章、做图，还能自动调用 API、协调复杂的工作流。但这种“自主性”是一把双刃剑。在真实的企业运营环境中，AI 如果失去控制，可能会输出错误信息，甚至触发未经授权的系统操作。
Host: 这确实很可怕！但如果我们直接把它的权限全部封死，AI 不就变成普通的自动化工具了吗？
Expert: 问得好，这正是企业面临的困境：缺乏在部署后平衡“控制”与“自主性”的实证指导。这正是这项研究想要解决的现实痛点。
Host: 那这项研究 me是如何开展的呢？
Expert: 研究团队采用了非常接地气的探索性多案例研究方法。他们深入调研了七个已经在真实环境中运行的 AI 系统，涵盖了 B2B、B2C 以及组织内部等多个应用场景。通过 14 次深度访谈加上直接的系统测试，整理总结出了一套企业在系统部署后管理 AI 自主性的实践模型。
Host: 听起来非常翔实！那研究中提出了哪些核心发现？
Expert: 首先，这项研究明确提出了人工智能自主性的两个核心维度：一个是“生成自主性”，也就是 AI 在创作文本、代码等内容时的自由度；另一个是“工作流自主性”，指 AI 在跨系统交互和流程协调时的决策空间。
Host: 原来自主性还可以细分为这两个方向！那企业具体要怎么去管理它们呢？
Expert: 研究识别出了 20 种不同的部署后管理实践，主要分为两大类：第一类叫“驾驭增值自主性”，比如通过实时审计或语义资源丰富，让 AI 的自主创造力发挥更大价值；第二类叫“降低无用自主性”，比如利用架构编织或资源断路器机制，强制截断有风险的自动操作。
Host: 资源断路器？这个概念很有意思，听起来就像电路里的保险丝！
Expert: 没错，就是这个原理。另外，研究还提出了一个叫“规避效应”的概念，意思是管理者在约束 AI 的某一个维度自主性时，往往需要保留甚至增加另一个维度的自主性，以此来维持系统的整体效用。而且研究还发现，降低工作流自主性往往能为后续限制生成自主性打下坚实的结构性基础。
Host: 不过，这项研究是不是也有一些局限性呢？
Expert: 是的，研究团队也指出，这是一项探索性的质性研究，并没有定量测量这些实践在运营效率、安全性或经济影响上的具体数值，而且目前这些系统的时间自主性也相对有限。
Host: 明白。那么这些发现对我们的企业管理者和技术决策者来说，到底意味着什么呢？
Expert: 最关键的启示是，管理 AI 自主性不是一刀切的禁用，而是一种精细化的平衡艺术。企业在部署 AI 后，不能只靠静态的提示词工程，必须建立动态的部署后治理机制。通过明确区分内容生成和工作流控制，管理者可以像调音师一样，精准调节 AI 在不同维度的自由度，在确保安全合规的前提下最大化投资回报率。
Host: 这意味着技术团队和业务团队需要更紧密地配合，甚至重新设计系统的架构和管控拦截点。
Expert: 完全正确！
Host: 非常感谢 Alex 今天深入浅出的精彩解读。总结来说，这项研究告诉我们，驾驭生成式 AI 的关键在于区分“生成”与“工作流”两个维度的自主性，并采取动态的驾驭与降低策略，从而在风险控制与业务价值之间找到完美平衡。
Expert: 谢谢 Anna，也谢谢大家的收听！
Host: 感谢大家收听本期的《A.I.S. Insights — powered by Living Knowledge》，我们下期再见！
Artificial intelligence, GenAI, Agentic AI, Large Language Models, Case Study, Autonomy