Kembali ke pustaka

Pertanyaan kunci Baru

Diproses AI · Disetujui penulis

Bagaimana para pemimpin mendefinisikan dan mengelola tanggung jawab saat sistem digital dan algoritma menciptakan dampak tak terduga yang kompleks?

RETHINKING RESPONSIBILITY IN THE DIGITAL AGE: A NARRATIVE APPROACH
François-Xavier de Vaujany, Aurélie Leclercq-Vandelannoitte, Jeremy Aroles, dkk. · MIS Quarterly (MISQ) · 2025
Ilustrasi untuk: Bagaimana para pemimpin mendefinisikan dan mengelola tanggung jawab saat sistem digital dan algoritma menciptakan dampak tak terduga yang kompleks?

Memuat pemutar Spotify; Spotify dapat memasang cookie. Perangkat ini mengingat pilihan Anda.

Temuan utama

  • Mengidentifikasi tiga bentuk tanggung jawab yang saling terkait: tanggung jawab kausal (atribusi berorientasi masa lalu oleh pihak ketiga), tanggung jawab relasional (pembentukan performatif berfokus masa kini oleh sistem teknologi), dan tanggung jawab naratif (pengambilan tanggung jawab berorientasi masa depan melalui penceritaan yang refleksif).
  • Mengilustrasikan bagaimana arsitektur digital secara aktif memprafigurasi dan mengonfigurasi peran—seperti membingkai mahasiswa sebagai calon pelaku kecurangan melalui algoritma plagiarisme, mengurasi pengguna media sosial untuk interaksi yang kontroversial, atau menanamkan bias melalui AI kepolisian prediktif.
  • Menunjukkan bahwa algoritma tidak sekadar mencerminkan fakta melainkan secara performatif menghasilkan luaran dan secara rekursif menempatkan partisipan ke dalam identitas bertanggung jawab atau tidak bertanggung jawab yang telah ditentukan sebelumnya.
  • Berargumen bahwa para pemimpin TI, perancang, dan pembuat kebijakan harus beralih dari sekadar menyalahkan secara retrospektif dan mengadopsi praktik perancangan proaktif yang peka terhadap nilai, serta mengambil tanggung jawab untuk mencegah bahaya sistemik di masa depan.

Maknanya bagi Anda

CIO / Eksekutif TI

Establish a mandatory value-sensitive design review board to evaluate how enterprise AI architectures prefigure user identities and distribute algorithmic accountability before deployment.

Manajer TI

Audit current automated decision-making and monitoring workflows to identify where software systems cast users into predefined, potentially biased behavioral categories.

Ahli Strategi Bisnis

Incorporate forward-looking narrative impact assessments into product roadmaps to account for the non-linear, systemic consequences of digital platform deployment.

Peneliti

Apply Paul Ricoeur's narrative theory to empirically investigate how sociomaterial systems recursively construct and distribute agency between humans and algorithms.

Pembuat Kebijakan

Draft regulatory frameworks that hold digital platform operators accountable for proactive harm prevention rather than relying solely on retrospective blame attribution.

Ringkasan

Komentar penelitian konseptual ini menyelidiki bagaimana konsep tanggung jawab harus berkembang di era digital yang semakin terhubung. Berdasarkan teori naratif dan fenomenologi hermeneutis Paul Ricoeur, para penulis menganalisis sifat performatif sistem digital melalui tiga domain ilustratif: deteksi plagiarisme, platform media sosial, dan kecerdasan buatan. Makalah ini mengembangkan kerangka kerja yang menunjukkan bagaimana sistem sosiomaterial secara naratif membangun dan mendistribusikan tanggung jawab di antara manusia dan teknologi.

Masalah

Model tanggung jawab tradisional mengasumsikan kausalitas linier langsung dan niat sadar manusia dalam rentang waktu terlokalisasi, yang membebankan kesalahan secara retroaktif kepada aktor individual. Namun, dalam lingkungan digital modern, jaringan yang saling terhubung, performativitas algoritmik, dan agensi terdistribusi menghasilkan konsekuensi nonlinier yang terus berkembang melintasi ruang dan waktu, membuat model akuntabilitas klasik tidak lagi efektif.

Transkrip
Host: Halo dan selamat datang di A.I.S. Insights — powered by Living Knowledge. Saya Anna Ivy Summers. Hari ini kita membahas sebuah studi yang diterbitkan di MIS Quarterly tahun 2025 berjudul "MEMIKIRKAN KEMBALI TANGGUNG JAWAB DI ERA DIGITAL: SEBUAH PENDEKATAN NARATIF". Studi ini ditulis oleh François-Xavier de Vaujany, Aurélie Leclercq-Vandelannoitte, Jeremy Aroles, Lucas Introna, dan Scott Davidson. Bersama saya untuk membahas topik ini adalah analis Alex Ian Sutherland. Selamat datang, Alex.
Expert: Terima kasih, Anna. Studi konseptual ini meneliti bagaimana pemahaman kita tentang tanggung jawab harus disesuaikan dengan perkembangan era digital yang saling terhubung. Fokus utamanya adalah melihat bagaimana sistem teknologi dan manusia secara bersama-sama membangun serta mendistribusikan akuntabilitas.
Host: Mari kita mulai dari persoalan mendasarnya. Mengapa model tanggung jawab yang selama ini kita gunakan dinilai tidak lagi memadai di era komputasi modern?
Expert: Model tanggung jawab konvensional umumnya mengasumsikan kausalitas linier dan niat sadar dari seorang individu. Pendekatan klasik ini beroperasi secara retrospektif, yaitu mencari satu aktor manusia untuk dipersalahkan setelah suatu peristiwa terjadi. Namun, dalam ekosistem digital saat ini, berbagai sistem jaringan beroperasi dengan agensi terdistribusi dan proses algoritmik yang rumit. Dampak yang dihasilkan bersifat nonlinier serta melintasi ruang dan waktu, sehingga model penetapan kesalahan tunggal tidak lagi efektif untuk menangkap dinamika yang sebenarnya.
Host: Lalu, pendekatan apa yang digunakan para peneliti dalam studi ini untuk menganalisis masalah tersebut?
Expert: Studi ini menggunakan kerangka teori naratif dan fenomenologi hermeneutis Paul Ricoeur. Melalui lensa ini, para peneliti mengevaluasi sifat performatif dari sistem digital dalam tiga domain ilustratif, yaitu perangkat lunak pendeteksi plagiarisme, platform media sosial, dan penerapan kecerdasan buatan, seperti pada sistem kepolisian prediktif.
Host: Dari analisis terhadap domain-domain tersebut, apa temuan utama yang dihasilkan?
Expert: Peneliti mengidentifikasi tiga bentuk tanggung jawab yang saling berkaitan. Pertama adalah tanggung jawab kausal, yaitu penentuan kesalahan yang berorientasi ke masa lalu oleh pihak ketiga. Kedua adalah tanggung jawab relasional, yaitu pembentukan performatif yang berfokus pada masa kini oleh arsitektur teknologi. Ketiga adalah tanggung jawab naratif, yaitu kesadaran yang berorientasi ke masa depan melalui refleksi kritis para aktor yang terlibat.
Host: Terkait tanggung jawab relasional, bagaimana sebenarnya arsitektur digital memengaruhi perilaku para penggunanya?
Expert: Sistem digital tidak bersikap netral atau sekadar mencatat fakta. Studi ini menunjukkan bahwa algoritma secara aktif memprafigurasi peran. Contohnya, perangkat lunak deteksi plagiarisme memosisikan mahasiswa sebagai potensi pelanggar aturan sejak awal interaksi. Pada media sosial, kurasi algoritma dirancang untuk mendorong keterlibatan yang sering kali memicu kontroversi. Sedangkan pada kecerdasan buatan untuk kepolisian prediktif, data historis dapat menanamkan bias yang mengarahkan pengawasan pada kelompok tertentu. Secara performatif, sistem ini menempatkan pengguna ke dalam identitas yang telah ditentukan sebelumnya.
Host: Mengapa hal ini penting bagi para pemimpin bisnis dan praktisi teknologi?
Expert: Implikasi praktisnya terletak pada cara organisasi mengelola tata kelola teknologi dan manajemen risiko. Ketergantungan pada audit retrospektif atau pencarian pihak yang bersalah setelah kegagalan sistem terjadi terbukti tidak memadai. Pemimpin teknologi dan pengambil kebijakan perlu beralih ke tanggung jawab naratif. Ini berarti menerapkan pendekatan desain yang peka terhadap nilai sejak awal perancangan sistem, serta mempertimbangkan bagaimana sebuah arsitektur data akan mendistribusikan peran di masa depan. Tujuannya adalah mengidentifikasi dan memitigasi potensi bahaya sistemik sebelum dampak buruk terjadi.
Host: Dengan kata lain, fokus kepemimpinan harus bergeser dari sekadar penetapan sanksi di masa lalu menuju perancangan etis yang proaktif untuk masa depan. Terima kasih atas analisisnya, Alex.
Expert: Sama-sama, Anna.
Host: Terima kasih telah mendengarkan A.I.S. Insights — powered by Living Knowledge. Sampai jumpa di episode berikutnya.
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

Responsibility, Information Technologies, Imputation, Temporality, Narrative Events, Emplotment, Sociomateriality