返回资源库

核心问题 最新

AI 处理 · 作者审核

公职人员在处理公民数据时为何会抵制强制推行的人工智能工具?

When Civil Servants Resist AI for Citizens: Privacy Concerns and Prosocial Resistance
Fynn E. Wojke · International Conference on Information Systems (ICIS) · 2026
配图:公职人员在处理公民数据时为何会抵制强制推行的人工智能工具?

加载 Spotify 播放器;Spotify 可能会设置 Cookie。本设备将记住您的选择。

主要发现

  • 提出了“监护边界扰动”概念,用以解释当行政AI指令违背行政人员对公民的保护责任时所产生的冲突。
  • 指出对AI滥用(特别是算法偏见和人为判断减少)的隐私担忧会增强公务员的抵制意向。
  • 提出亲社会动机会放大对AI隐私的担忧,并作为维护服务对象权益的行为直接增强抵制意向。
  • 表明感知到的工作场所益处以及对组织保护结构的信任能够减轻抵制意向和对AI隐私的担忧。

实践启示

CIO / IT 高管

Establish and announce a formal 'Trust and Safeguards' framework on Monday morning that details how citizen data is protected within the new AI tool, addressing algorithmic bias and human oversight to build organizational trust.

IT 经理

Hold a Monday morning sync with frontline staff to explicitly map out where human-in-the-loop judgment points remain within the AI workflow, ensuring employees know they retain discretion over final decisions affecting vulnerable citizens.

商业战略师

Audit the current change management strategy on Monday morning to replace top-down mandates with messaging that highlights how the AI system directly benefits citizens, aligning the rollout with civil servants' prosocial motivations.

研究人员

Draft a survey instrument on Monday morning operationalizing 'Custodial Boundary Turbulence' to empirically test how civil servants' prosocial motivation interacts with privacy concerns and resistance intentions among the 781 target employees.

政策制定者

Draft an addendum to the AI implementation mandate on Monday morning requiring explicit citizen consent protocols and transparent data-sharing boundaries to alleviate frontline workers' protective resistance.

摘要

本研究探讨了公务员为何会出于对公民隐私的担忧而抵制强制推行的人工智能系统。作者借鉴沟通隐私管理理论,提出了“监护边界扰动”概念,并构建了一个研究模型,拟通过对781名非管理类公共行政雇员进行横截面问卷调查来进行检验。

核心问题

公共部门强制推行自动化人工智能工具可能迫使公务员在未获得公民同意或没有自主裁量权的情况下泄露敏感的公民数据。现有研究主要从现状偏见等以自我为中心的动机来看待技术抵制,忽视了代表弱势服务对象采取的保护性、亲社会抵制行为。

文稿
Host: 欢迎收听 A.I.S. Insights — powered by Living Knowledge。我是主持人 Anna Ivy Summers。今天我们要讨论发表于 2026 年国际信息系统会议 ICIS 的一项新研究,作者是 Fynn E. Wojke,题目是《当公务员为公民抵制人工智能时:隐私担忧与亲社会抵制》。这项研究探讨了公共部门雇员为何会出于对公民隐私的担忧,抵制强制推行的人工智能系统。今天和我一起探讨的是分析师 Alex Ian Sutherland。欢迎你,Alex。
Expert: 谢谢 Anna,很高兴来到节目中。
Host: 很多组织在推行新技术时都会遇到阻力。这项研究指出的核心现实问题是什么?
Expert: 在公共部门,强制引入自动化人工智能工具有时会要求公务员在没有获得公民明确同意、或缺乏自主裁量权的情况下,处理或共享敏感的公民数据。过去的研究通常从以自我为中心的动机来看待技术抵制,例如维持现状的偏见或对个人工作负荷的担忧。这项研究指出,这种视角忽略了员工代表弱势服务对象所采取的保护性、亲社会性质的抵制行为。
Host: 那么这项研究采用了怎样的分析方法和框架?
Expert: 这项研究借鉴了沟通隐私管理理论,提出了“监护边界扰动”这一概念,用以刻画员工在保护公民数据与执行上级技术指令之间的两难处境。在方法上,研究构建了一个理论模型,并通过对 781 名非管理类公共行政雇员进行的横截面问卷调查来检验相关的因果假设。
Host: 调查得出了哪些具体的研究结果?
Expert: 结果主要包含几个核心部分。首先,研究证实了“监护边界扰动”的存在:当行政指令违背了工作人员对公民的保护责任时,会直接诱发内部冲突。其次,公务员对人工智能滥用的隐私担忧——特别是算法偏见以及人为判断空间的减少——会显著增强他们的抵制意向。
Host: 那么员工自身的利他或亲社会倾向,是如何影响这种抵制行为的?
Expert: 这正是研究的第三个要点。亲社会动机会放大对人工智能隐私风险的担忧,员工出于维护服务对象权益的考量,会直接表现出更强的抵制意向。不过,研究同时也发现,如果员工能够感知到该技术带来的实际工作场所益处,或者对组织内部的保护性结构具备充分信任,那么这种对隐私的担忧以及抵制意向都会得到显著缓解。
Host: 这些发现对业务决策者和公共管理人员有什么实际应用价值?
Expert: 这对技术实施策略提供了重要参考。管理者应当认识到,一线员工的抵制并不总是出于对技术本身的排斥,而可能源于对客户或公民的职业保护责任。因此,如果单纯采用强制手段推行系统,可能会加剧冲突。在实践中,组织需要建立可靠的数据保护机制,防范算法偏见,并在关键决策环节保留人类工作人员的自主裁量权。当员工确认组织具备完善的安全屏障、且技术不会损害服务对象权益时,推行新技术的阻力便会明显降低。
Host: 总结来说,关注一线人员的保护性动机,并建立透明可信的组织防护结构,是顺利应用人工智能的关键。非常感谢 Alex 的专业解析,也感谢大家的收听。我们下期 A.I.S. Insights 再见。
Expert: 谢谢 Anna,下期再见。
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

Artificial Intelligence, Public Administration, Privacy Concerns, Communication Privacy Management, Prosocial Resistance, Algorithmic Governance