Kembali ke pustaka

Pertanyaan kunci Baru

Diproses AI · Disetujui penulis

Mengapa pegawai publik menolak penggunaan teknologi kecerdasan buatan wajib saat menangani data warga?

When Civil Servants Resist AI for Citizens: Privacy Concerns and Prosocial Resistance
Fynn E. Wojke · International Conference on Information Systems (ICIS) · 2026
Ilustrasi untuk: Mengapa pegawai publik menolak penggunaan teknologi kecerdasan buatan wajib saat menangani data warga?

Memuat pemutar Spotify; Spotify dapat memasang cookie. Perangkat ini mengingat pilihan Anda.

Temuan utama

  • Mengonseptualisasikan Custodial Boundary Turbulence untuk menjelaskan konflik yang muncul ketika mandat AI administratif melanggar kewajiban perlindungan birokrat terhadap warga.
  • Menunjukkan bahwa kekhawatiran privasi terkait penyalahgunaan AI, khususnya bias algoritmik dan berkurangnya pertimbangan manusia, meningkatkan niat resistensi pegawai negeri.
  • Mengajukan bahwa motivasi prososial memperkuat kekhawatiran privasi AI dan secara langsung memperkuat niat resistensi sebagai bentuk advokasi terhadap warga.
  • Menunjukkan bahwa manfaat tempat kerja yang dirasakan serta kepercayaan pada struktur perlindungan organisasi dapat meredam niat resistensi dan kekhawatiran privasi AI.

Maknanya bagi Anda

CIO / Eksekutif TI

Establish and announce a formal 'Trust and Safeguards' framework on Monday morning that details how citizen data is protected within the new AI tool, addressing algorithmic bias and human oversight to build organizational trust.

Manajer TI

Hold a Monday morning sync with frontline staff to explicitly map out where human-in-the-loop judgment points remain within the AI workflow, ensuring employees know they retain discretion over final decisions affecting vulnerable citizens.

Ahli Strategi Bisnis

Audit the current change management strategy on Monday morning to replace top-down mandates with messaging that highlights how the AI system directly benefits citizens, aligning the rollout with civil servants' prosocial motivations.

Peneliti

Draft a survey instrument on Monday morning operationalizing 'Custodial Boundary Turbulence' to empirically test how civil servants' prosocial motivation interacts with privacy concerns and resistance intentions among the 781 target employees.

Pembuat Kebijakan

Draft an addendum to the AI implementation mandate on Monday morning requiring explicit citizen consent protocols and transparent data-sharing boundaries to alleviate frontline workers' protective resistance.

Ringkasan

Penelitian ini mengkaji alasan pegawai negeri menolak sistem kecerdasan buatan yang diwajibkan karena kekhawatiran terhadap privasi warga. Mengacu pada teori Communication Privacy Management, penulis memperkenalkan konsep Custodial Boundary Turbulence dan mengembangkan model penelitian yang diuji melalui survei lintas-seksional terhadap 781 pegawai administrasi publik non-manajerial.

Masalah

Instruksi sektor publik untuk menerapkan perangkat AI otomatis dapat memaksa pegawai negeri mengungkapkan data sensitif warga tanpa persetujuan warga maupun diskresi pegawai. Penelitian yang ada saat ini umumnya memandang penolakan teknologi melalui motif yang berpusat pada diri sendiri seperti bias status quo, sehingga mengabaikan penolakan prososial yang bersifat melindungi demi kepentingan warga yang rentan.

Transkrip
Host: Halo dan selamat datang di A.I.S. Insights — powered by Living Knowledge. Saya Anna Ivy Summers. Hari ini kita membahas sebuah studi berjudul "Ketika Pegawai Negeri Sipil Menolak AI demi Warga: Kekhawatiran Privasi dan Resistensi Prososial" oleh Fynn E. Wojke, yang dipresentasikan dalam International Conference on Information Systems 2026. Studi ini meneliti mengapa pegawai administrasi publik menolak sistem kecerdasan buatan yang diwajibkan di tempat kerja mereka karena kekhawatiran atas privasi data warga. Bersama saya ada analis kita, Alex Ian Sutherland. Selamat datang, Alex.
Expert: Terima kasih, Anna. Senang bisa bergabung kembali.
Host: Alex, saat sebuah organisasi menerapkan sistem AI baru, asumsi umum manajemen biasanya adalah karyawan menolak karena malas beradaptasi atau takut digantikan. Namun studi ini menguraikan masalah yang berbeda, bukan?
Expert: Tepat sekali, Anna. Mayoritas literatur sebelumnya memang memandang penolakan teknologi melalui motif yang berpusat pada diri sendiri, seperti bias status quo atau persepsi ancaman beban kerja. Masalah nyata yang disorot studi ini adalah ketika mandat sektor publik mewajibkan penerapan perangkat AI otomatis yang berpotensi mengekspos data sensitif warga tanpa persetujuan warga dan tanpa adanya diskresi pegawai. Dalam kondisi seperti ini, pegawai negeri menolak teknologi bukan untuk kenyamanan pribadi, melainkan demi melindungi kepentingan kelompok warga yang rentan.
Host: Pendekatan yang sangat menarik. Bagaimana studi ini menguji dan menjelaskan dinamika tersebut?
Expert: Studi ini menggunakan kerangka Communication Privacy Management theory untuk memperkenalkan konsep Custodial Boundary Turbulence. Konsep ini menggambarkan konflik etis yang muncul ketika mandat administratif memaksa pegawai melanggar peran penjagaan privasi data warga. Untuk mengujinya, peneliti mengumpulkan dan menganalisis data survei lintas-seksional dari 781 pegawai administrasi publik non-manajerial yang berinteraksi langsung dengan data warga dalam tugas operasional harian.
Host: Dan apa saja temuan utama yang dihasilkan dari analisis data tersebut?
Expert: Pertama, hasil studi menunjukkan bahwa kekhawatiran privasi terkait potensi penyalahgunaan AI secara signifikan meningkatkan niat resistensi pegawai. Dua pemicu utamanya adalah kekhawatiran terhadap bias algoritmik dan berkurangnya pertimbangan manusiawi dalam pengambilan keputusan. Kedua, motivasi prososial terbukti memperkuat kekhawatiran privasi tersebut sekaligus meningkatkan niat menolak implementasi secara langsung. Pegawai melihat tindakan resistensi ini sebagai wujud advokasi moral untuk melindungi hak privasi warga.
Host: Apakah studi ini juga menemukan faktor yang bisa meredam niat resistensi tersebut?
Expert: Ya, ada faktor peredam. Ketika pegawai melihat adanya manfaat langsung bagi alur kerja mereka, dan ketika mereka memiliki kepercayaan tinggi pada struktur perlindungan serta tata kelola organisasi, tingkat kekhawatiran privasi dan niat resistensi terhadap AI menurun secara terukur.
Host: Ini membawa kita pada pertanyaan paling penting bagi para praktisi: mengapa temuan ini penting bagi para pengambil keputusan di sektor publik maupun bisnis?
Expert: Implikasi praktisnya sangat mendasar. Manajemen tidak bisa lagi melabeli semua bentuk penolakan AI sebagai ketidaksiapan teknis atau keengganan berubah yang egois. Ketika staf garis depan bertindak sebagai pengelola data klien atau publik, penolakan mereka bisa berakar pada kekhawatiran etika yang nyata. Bagi organisasi yang menerapkan AI otomatis, solusinya bukan sekadar memaksakan mandat, melainkan menyediakan transparansi algoritmik, mempertahankan ruang diskresi manusiawi, serta membangun tata kelola privasi yang kredibel agar kepercayaan pegawai tetap terjaga.
Host: Dengan kata lain, resistensi karyawan terkadang berfungsi sebagai sinyal peringatan penting bagi tata kelola data yang bertanggung jawab. Terima kasih banyak atas penjelasan dan analisisnya, Alex.
Expert: Terima kasih kembali, Anna.
Host: Dan terima kasih kepada para pendengar setia A.I.S. Insights — powered by Living Knowledge. Sampai jumpa di episode berikutnya.
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

Artificial Intelligence, Public Administration, Privacy Concerns, Communication Privacy Management, Prosocial Resistance, Algorithmic Governance