返回资源库

核心问题

AI 处理 · 作者审核

是什么导致了网络轻信?又该如何设计系统来帮助用户批判性地评估在线信息?

A Research Agenda to Understand Drivers of Digital Gullibility
Margeret Hall, Christian Haas · International Conference on Information Systems (ICIS) · 2022
配图:是什么导致了网络轻信?又该如何设计系统来帮助用户批判性地评估在线信息?

加载 Spotify 播放器;Spotify 可能会设置 Cookie。本设备将记住您的选择。

主要发现

  • 将数字轻信构想为不良在线行为的关键前因,而非仅关注虚假信息的输出。
  • 将社会技术系统原则与情境崩塌和网络外部性等概念相结合,以解释持续存在的网络轻信现象。
  • 在信息情境、个人寻求行为和实际行为这三个空白领域中提出了十个研究命题。
  • 为设计以用户为中心的系统提供了可操作的指导,以增强认识警惕性并降低信息验证成本。

实践启示

CIO / IT 高管

Initiate a cross-departmental working group with representatives from Security, User Experience, and Training to review the research agenda's propositions, specifically focusing on how to integrate 'epistemic vigilance' enhancement into the next IT security awareness training module, prioritizing the 'information context' gap.

IT 经理

Schedule a 30-minute review session with your team to discuss the concept of 'context collapse' as presented in the research and brainstorm one specific system design tweak (e.g., adding a 'source credibility' indicator to internal dashboards) that could reduce information verification costs for your users, to be piloted within the week.

商业战略师

Draft a one-page executive summary for your leadership team that translates the research's core finding on 'digital gullibility as an antecedent to maladaptive online behaviors' into a business risk, proposing a brief for exploring how to quantify the cost of digital gullibility within your organization's operations.

研究人员

Begin a literature review focused on the 'individual seeking behavior' gap outlined in the research, specifically searching for empirical studies that measure user-reported 'epistemic vigilance' in different online environments to refine your next research question.

政策制定者

Draft an inquiry to relevant government agencies or industry bodies requesting current data on the prevalence and economic impact of 'digital scams' and 'phishing' within your jurisdiction, framing the request around understanding 'digital gullibility' as a root cause.

摘要

本文提出了一个社会技术研究议程,旨在调查数字轻信的潜在驱动因素和情境因素。作者分析了用户特征、信息情境和系统设计如何相互作用以影响认识警惕性和在线决策。通过在三个研究空白中提出十个核心命题,本研究为构建减轻轻信行为的韧性信息系统提供了指导。

核心问题

尽管网络虚假信息、网络钓鱼和数字诈骗日益增加,但信息系统研究传统上关注的是输出症状,而非将人类轻信作为根本原因。目前的理论模型无法解释为什么非恶意用户经常接受不可靠的网络线索并遭受昂贵的后果。如果不理解这些驱动因素,研究人员和设计人员就难以构建支持批判性信息评估的系统。

文稿
Host: 欢迎收听《A.I.S. Insights — powered by Living Knowledge》。我是主持人 Anna Ivy Summers。今天我们要讨论一项非常关键的前沿研究,题目叫做《理解数字轻信驱动因素的研究议程》。很荣幸邀请到了我们的资深分析师 Alex Ian Sutherland 来和大家分享。Alex,欢迎你!

Expert: 嗨,Anna,很高兴来到这里。这项研究探讨了一个影响我们所有人的现实问题:为什么人们在网络上越来越容易轻信虚假信息、网络钓鱼甚至数字诈骗?研究提出了一个全新的社会技术框架,深入分析了用户特征、信息情境以及系统设计是如何相互作用,进而影响我们在网络上的认识警惕性和决策行为的。

Host: 确实,现在的网络诈骗和虚假信息层出不穷。按理说大家的防范意识都在提高,但受害者反而越来越多。这项研究揭示的根本问题是什么呢?

Expert: 这正是这项研究的核心切入点。以往的信息系统研究,大多把注意力集中在“输出症状”上,比如虚假信息是如何传播的,或者钓鱼邮件长什么样。但这项研究指出,我们忽略了最根本的原因——也就是人类本身的“数字轻信”。传统的理论模型无法解释,为什么许多本无恶意的普通用户,会频频接受不可靠的网络线索,并因此遭受昂贵的经济或声誉损失。如果不去理解这些驱动轻信的深层因素,技术人员和设计人员就很难构建出能够真正支持批判性思考和信息评估的系统。

Host: 看来我们需要从关注“坏信息”转向关注“人为什么会相信”。那么这项研究采用了什么样的方法或视角来拆解这个问题呢?

Expert: 研究采用了社会技术系统的视角,简单来说,就是把技术设计与人类的心理行为结合起来看待。它特别引入了一些有意思的概念,比如“情境崩塌”和“网络外部性”。所谓的“情境崩塌”,是指在现在的数字平台上,职业、社交、私人等不同生活场景混在一起,导致人们失去了判断信息背景的依据;而“网络外部性”则解释了当大家都选择相信某种信息时,个体更容易放弃自身的怀疑。通过将这些社会学与技术概念相结合,研究揭示了数字环境是如何在潜移默化中削弱了人们的警惕性。

Host: 这种将社会学和技术相结合的视角确实非常新颖。那么,这项研究的核心发现和成果具体有哪些?

Expert: 研究主要有几个重大的突破。首先,它明确将“数字轻信”定义为各种不良在线行为的关键前因,而不是仅仅看最终产生的坏结果。其次,研究针对信息情境、个人信息寻求行为以及实际行为这三个空白领域,提出了十个核心研究命题。最重要的是,它为设计以用户为中心的系统提供了可操作的指导,重点在于如何增强用户的认识警惕性,同时降低用户在验证信息真伪时所需要付出的认知成本。

Host: 这听起来对企业非常关键。在商业应用层面,这项研究给管理者和产品设计者带来了怎样的启发?

Expert: 这正是这项研究价值最高的关键所在。对企业来说,网络安全和信息治理绝不仅仅是安装防火墙或靠算法过滤那么简单,它本质上是一个关于“人”的问题。无论是开发面向消费者的应用程序,还是搭建企业内部的管理系统,设计者都需要思考:我们的系统是在诱导用户轻信,还是在帮助他们保持警惕?例如,在涉及高风险决策或未经证实的信息流时,系统是否可以通过设计提供适当的澄清线索,帮助用户降低验证成本?减少用户因轻信而导致的误操作或安全漏洞,能直接为企业避免巨大的合规风险和潜在损失。

Host: 总结来说,这项研究提醒我们,应对数字时代的信任危机,不能只治标不治本,而是要从理解人类自身的轻信机制出发,通过更好的社会技术系统设计来为用户赋能。

Expert: 完全正确。只有弄清楚驱动轻信的深层逻辑,我们才能真正构建出既高效又具备韧性的数字生态系统。

Host: 感谢 Alex 带来的深度解读,也感谢各位听众的收听。这里是《A.I.S. Insights — powered by Living Knowledge》,我们下期再见!
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

Digital gullibility, maladaptive outcomes, context collapse, network externalities, epistemic vigilance, socio-technical systems