返回资源库

核心问题

AI 处理 · 作者审核

算法如何在数字平台上将工作分配给人群?

When Algorithms Delegate to Humans: Exploring Human-Algorithm Interaction at Uber
Marta Stelmaszak, Mareike Möhlmann, Carsten Sørensen · MIS Quarterly · 2024
配图:算法如何在数字平台上将工作分配给人群?

主要发现

  • 将分布式委派概念化为一个群体的、混合的和关系型的过程,在此过程中多个算法协同工作,同时利用人类数据输入。
  • 提出了多智能体环境中算法委派的三个关键机制:群体混合评估、群体混合分发和群体混合协调。
  • 揭示了委派是沿着连续体进行的,而不是算法与人类之间完全的、二元化的权利与责任转移。
  • 证明了人类的参与(通过痕迹数据、选择数据以及系统故障期间的直接干预)对于算法代理权的运转是不可或缺的。

实践启示

CIO / IT 高管

On Monday morning, initiate a review of our current platform architecture to identify all instances of multi-agent algorithmic systems and assess their delegation models, specifically looking for 'distributed delegation' patterns to ensure human input is integrated effectively.

IT 经理

On Monday morning, schedule a technical deep-dive with your team focused on one specific algorithmic system that delegates to humans; analyze its current delegation logic and identify specific points where human trace data, choice data, or direct intervention are critical inputs, and document these dependencies.

商业战略师

On Monday morning, begin a strategic assessment of our core business processes that rely on algorithmic delegation; map out the human touchpoints and decision points that are currently integrated, or could be integrated, within a 'distributed delegation' framework to enhance system resilience and adaptability.

研究人员

On Monday morning, draft a research proposal outlining a study to quantitatively measure the impact of 'distributed delegation' on system performance and user satisfaction in our specific domain, focusing on how varying levels of human input influence outcomes.

政策制定者

On Monday morning, convene a working group to examine existing regulations and internal policies related to algorithmic decision-making and human oversight; identify any gaps that need addressing to better accommodate 'distributed delegation' scenarios, ensuring clarity on accountability and human agency.

摘要

本研究以网约车应用 Uber 为例,探讨了在复杂的多智能体环境中算法如何向人类委派任务。通过分析 63 项美国 Uber 专利并对司机和乘客进行 22 次半结构化访谈,作者研究了超越简单双智能体构型的基本人机算法交互。本文将分布式委派理论化为一个包含群体混合评估、分发和协调的概念。

核心问题

先前关于人机算法交互的研究主要集中在一对一或多对一的双边关系上,假设委派是二元的,或者算法具有完全的自主性。然而,现实世界的数字平台是在复杂的多智能体环境中运行的,其中多个算法同时与多个人类进行交互。现有框架缺乏关于算法群体如何在保持对持续人类输入依赖的同时跨人类群体委派任务的理论构建。

文稿
Host: 欢迎收听 "A.I.S. Insights — powered by Living Knowledge"。我是主持人 Anna Ivy Summers。今天我们要探讨一项非常有意思的研究,题目是《当算法向人类委派任务:探索 UBER 的人机算法交互》。Alex,欢迎来到我们的节目!

Expert: 谢谢 Anna,很高兴来到这里。这项研究确实非常前沿,它以网约车巨头 Uber 为例,揭示了在复杂的多智能体环境中,算法到底是如何向人类“委派”任务的。

Host: “委派”这个词很有意思。通常我们觉得是人类给人工智能下达指令,但这项研究却在讨论算法如何给人类派任务。为什么传统的人机交互理论不够解释现在的现象了呢?

Expert: 问得好。过去大多数关于人机算法交互的研究,往往假设是一对一的简单关系,或者是二元化的——也就是假设要么完全由人类掌控,要么算法拥有完全的自主性。但现实中的数字平台,比如 Uber,情况要复杂得多。它是一个多智能体环境,意味着有多个算法同时在与多个人类交互。现有的框架缺乏一套理论,来解释算法群体如何在依赖人类持续输入的同时,跨人类群体去委派任务。

Host: 确实,现实中的商业场景要混乱和动态得多。那这项研究具体采用了什么方法来探索这个问题呢?

Expert: 研究人员采用了非常严谨且互补的方法。他们深入分析了 63 项 Uber 的美国专利,借此剖析算法背后的底层设计逻辑;同时,他们还对司机和乘客进行了 22 次半结构化访谈。这样一来,研究不仅看懂了专利里的技术构想,还捕捉到了真实用户的实际体验。

Host: 这种将专利分析与实际访谈结合的方式确实很全面。那么,这项研究得出了哪些核心发现?

Expert: 最核心的突破是提出了“分布式委派”的概念。研究表明,委派并不是把所有权力或责任一次性彻底交给人类或算法,而是一个连续的动态过程。具体来说,研究提出了多智能体环境中算法委派的三个关键机制:群体混合评估、群体混合分发,以及群体混合协调。

Host: 能给我们具体解释一下这三个机制是如何运作的吗?

Expert: 当然可以。首先是“评估”,算法和人类共同搜集并评估数据,比如系统根据定位和历史评分评估司机,而司机也在评估路况和乘客;其次是“分发”,算法根据这些混合评估结果,将行程任务分发给特定的司机;最后是“协调”,在行程进行中,算法和人类不断实时互动,以调整路线或应对突发状况。

Host: 听起来这不是简单的“算法发号施令、人类机械执行”,而是一种高度交织的关系。

Expert: 没错!这项研究强调,委派是一个沿着连续体进行的动态平衡。更重要的是,人类的参与——无论是产生的痕迹数据、选择数据,还是在系统故障时的直接人工干预——对于算法代理权的正常运转都是不可或缺的。算法并不是完全孤立自主的,它时刻依赖着人类。

Host: 这对商业领袖和平台管理者来说,有哪些关键的启发?

Expert: 这彻底改变了我们设计智能化系统和管理人机协作的思路。首先,企业管理者不应该把 AI 自动化看作“全有或全无”的开关,而应该将其设计为一个连续体,明确在哪些环节由算法主导,在哪些环节需要人类介入。其次,企业在构建数字平台时必须意识到,用户和员工不仅是系统的服务对象,他们的数据和实时反馈本身就是算法得以高效运转的核心基础设施。

Host: 总结得非常透彻!未来的平台竞争力,或许正是取决于如何精准地实现算法与人类之间的分布式协作。非常感谢 Alex 今天为我们带来的深度解读!

Expert: 谢谢 Anna,也很高兴能和大家分享这项研究。

Host: 感谢大家的收听,这里是 "A.I.S. Insights — powered by Living Knowledge",我们下期再见!
Artificial Intelligence & Automation Human-Computer Interaction

IS Delegation, Human-AI Interaction, Artificial Intelligence, Algorithms, Patents