Kembali ke pustaka

Pertanyaan kunci

Diproses AI · Disetujui penulis

Apa yang mendorong kepolosan digital, dan bagaimana sistem dapat dirancang untuk membantu pengguna mengevaluasi informasi online secara kritis?

A Research Agenda to Understand Drivers of Digital Gullibility
Margeret Hall, Christian Haas · International Conference on Information Systems (ICIS) · 2022
Ilustrasi untuk: Apa yang mendorong kepolosan digital, dan bagaimana sistem dapat dirancang untuk membantu pengguna mengevaluasi informasi online secara kritis?

Memuat pemutar Spotify; Spotify dapat memasang cookie. Perangkat ini mengingat pilihan Anda.

Temuan utama

  • Merumuskan kenaifan digital sebagai anteseden utama bagi perilaku daring yang maladaptif, daripada hanya berfokus pada hasil misinformasi.
  • Mengintegrasikan prinsip-prinsip sistem sosio-teknis dengan konsep-konsep seperti runtuhnya konteks (context collapse) dan eksternalitas jaringan untuk menjelaskan kenaifan daring yang persisten.
  • Merumuskan sepuluh proposisi penelitian di tiga kesenjangan: konteks informasi, perilaku pencarian individu, dan perilaku yang terwujud.
  • Memberikan panduan praktis untuk merancang sistem yang berpusat pada pengguna guna meningkatkan kewaspadaan epistemik dan mengurangi biaya verifikasi informasi.

Maknanya bagi Anda

CIO / Eksekutif TI

Initiate a cross-departmental working group with representatives from Security, User Experience, and Training to review the research agenda's propositions, specifically focusing on how to integrate 'epistemic vigilance' enhancement into the next IT security awareness training module, prioritizing the 'information context' gap.

Manajer TI

Schedule a 30-minute review session with your team to discuss the concept of 'context collapse' as presented in the research and brainstorm one specific system design tweak (e.g., adding a 'source credibility' indicator to internal dashboards) that could reduce information verification costs for your users, to be piloted within the week.

Ahli Strategi Bisnis

Draft a one-page executive summary for your leadership team that translates the research's core finding on 'digital gullibility as an antecedent to maladaptive online behaviors' into a business risk, proposing a brief for exploring how to quantify the cost of digital gullibility within your organization's operations.

Peneliti

Begin a literature review focused on the 'individual seeking behavior' gap outlined in the research, specifically searching for empirical studies that measure user-reported 'epistemic vigilance' in different online environments to refine your next research question.

Pembuat Kebijakan

Draft an inquiry to relevant government agencies or industry bodies requesting current data on the prevalence and economic impact of 'digital scams' and 'phishing' within your jurisdiction, framing the request around understanding 'digital gullibility' as a root cause.

Ringkasan

Makalah ini mengusulkan agenda penelitian sosio-teknis untuk menyelidiki faktor pendorong utama dan faktor kontekstual dari kenaifan digital. Para penulis menganalisis bagaimana karakteristik pengguna, konteks informasi, dan desain sistem berinteraksi dalam memengaruhi kewaspadaan epistemik dan pengambilan keputusan daring. Dengan menetapkan sepuluh proposisi inti di tiga kesenjangan penelitian, studi ini memberikan panduan untuk menciptakan sistem informasi yang tangguh yang meminimalkan perilaku naif.

Masalah

Meskipun ada peningkatan misinformasi daring, phishing, dan penipuan digital, penelitian sistem informasi secara tradisional berfokus pada gejala hasil daripada kenaifan manusia sebagai akar masalahnya. Model teoritis saat ini gagal menjelaskan mengapa pengguna non-jahat secara rutin menerima petunjuk daring yang tidak terpercaya dan menanggung konsekuensi yang mahal. Tanpa memahami pendorong-pendorong ini, para peneliti dan perancang kesulitan untuk membangun sistem yang mendukung evaluasi informasi secara kritis.

Transkrip
Host: Selamat datang di A.I.S. Insights — powered by Living Knowledge. Saya host Anda, Anna Ivy Summers.
Expert: Dan saya Alex Ian Sutherland. Senang bisa kembali di sini bersama Anda.
Host: Hari ini kita akan membahas sebuah studi yang sangat relevan dengan tantangan dunia digital saat ini, berjudul "Agenda Penelitian untuk Memahami Pendorong Kenaifan Digital". Studi ini mengusulkan agenda penelitian sosio-teknis untuk menyelidiki pendorong utama dan faktor kontekstual dari kenaifan digital.
Expert: Ya, studi ini pada dasarnya menganalisis bagaimana karakteristik pengguna, konteks informasi, dan desain sistem berinteraksi dalam memengaruhi kewaspadaan serta pengambilan keputusan kita di dunia daring.
Host: Alex, mari kita mulai dari masalah utamanya. Kita semua tahu bahwa misinformasi, phishing, dan penipuan digital makin marak dan membawa kerugian finansial yang besar. Mengapa pendekatan penelitian selama ini dianggap belum cukup untuk mengatasi masalah ini?
Expert: Masalah besarnya adalah sebagian besar penelitian dan solusi industri selama ini lebih fokus pada gejala hasil, seperti jumlah kebocoran data atau penyebaran hoaks, bukan pada akar masalahnya yaitu kenaifan manusia itu sendiri. Model teoritis saat ini gagal menjelaskan mengapa pengguna yang sebenarnya tidak berniat jahat secara rutin menerima petunjuk daring yang tidak terpercaya.
Host: Jadi, alih-alih hanya berfokus pada dampak serangan cyber setelah terjadi, kita perlu memahami mengapa orang begitu mudah terkecoh sejak awal?
Expert: Tepat sekali. Tanpa memahami pendorong-pendorong utama di balik kenaifan ini, para peneliti dan perancang sistem akan terus kesulitan membangun platform yang mendukung evaluasi informasi secara kritis.
Host: Itu sudut pandang yang sangat menarik. Lalu bagaimana pendekatan yang digunakan oleh studi ini untuk membedah masalah tersebut dalam praktiknya?
Expert: Studi ini menggunakan pendekatan sistem sosio-teknis secara holistik. Artinya, studi tidak hanya melihat perilaku individu secara terisolasi, tetapi bagaimana perilaku itu dibentuk oleh teknologi dan lingkungan di sekitarnya. Para peneliti mengintegrasikan konsep seperti runtuhnya konteks atau *context collapse*—di mana batasan antara dunia kerja, pribadi, dan publik menjadi kabur di platform digital—serta eksternalitas jaringan.
Host: Dan dari pendekatan tersebut, mereka menyusun sebuah kerangka kerja baru, bukan?
Expert: Betul. Studi ini merumuskan sepuluh proposisi penelitian inti yang terbagi ke dalam tiga kesenjangan utama: konteks informasi, perilaku pencarian individu, dan perilaku yang terwujud di dunia nyata.
Host: Bisakah Anda jelaskan lebih jauh mengenai temuan atau pemikiran utama dari studi ini, Alex?
Expert: Temuan paling mendasar adalah merumuskan kembali kenaifan digital sebagai anteseden atau pemicu utama bagi perilaku daring yang tidak adaptif, bukan sekadar melihat hasil akhirnya. Selain itu, studi ini menekankan pentingnya kewaspadaan epistemik, yaitu kemampuan dan dorongan mental seseorang untuk memverifikasi kebenaran informasi sebelum mempercayainya.
Host: Mengapa kewaspadaan epistemik ini begitu penting dalam konteks desain sistem?
Expert: Karena jika sebuah sistem membuat proses verifikasi informasi menjadi sulit atau membutuhkan usaha yang terlalu tinggi, tingkat kewaspadaan epistemik pengguna akan turun. Studi ini memberikan panduan praktis untuk merancang sistem yang berpusat pada pengguna guna meningkatkan kewaspadaan tersebut dan mengurangi biaya verifikasi informasi.
Host: Ini poin yang sangat krusial bagi para pimpinan bisnis dan profesional yang mendengarkan podcast kita. Mengapa hal ini sangat penting bagi dunia usaha?
Expert: Bagi bisnis, studi ini memberikan sudut pandang baru dalam mengelola risiko keamanan informasi dan pengalaman pelanggan. Sering kali perusahaan menganggap insiden keamanan sebagai kelalaian karyawan yang kurang terlatih. Padahal, bisa jadi desain sistem internal perusahaannya sendiri yang memicu kenaifan digital karena terlalu kompleks atau membingungkan.
Host: Artinya, pelatihan keamanan siber saja tidak cukup jika sistem kerja digitalnya tidak mendukung?
Expert: Sangat tepat. Bisnis harus berinvestasi pada desain sistem informasi yang secara aktif mengurangi biaya verifikasi bagi pengguna. Jika kita bisa merancang antarmuka yang secara intuitif mendorong evaluasi kritis tanpa membebani pengguna, perusahaan dapat menekan risiko penipuan, meminimalkan kerugian operasional, dan membangun kepercayaan yang lebih kuat dengan pelanggan.
Host: Jadi kesimpulan utamanya adalah kita harus berhenti hanya mengobati gejala penipuan digital dan mulai membangun arsitektur sistem yang mencegah kenaifan digital dari akarnya.
Expert: Benar sekali, Anna. Ini adalah tentang menciptakan ekosistem digital yang tangguh dan memfasilitasi pengambilan keputusan yang lebih cerdas.
Host: Pembahasan yang sangat membuka wawasan, Alex. Terima kasih banyak telah membagikan analisis Anda hari ini.
Expert: Sama-sama, Anna. Selalu menyenangkan bisa berbagi di sini.
Host: Dan terima kasih kepada Anda para pendengar yang telah menyimak A.I.S. Insights — powered by Living Knowledge. Sampai jumpa di episode berikutnya!
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

Digital gullibility, maladaptive outcomes, context collapse, network externalities, epistemic vigilance, socio-technical systems