Kembali ke pustaka

Pertanyaan kunci Baru

Diproses AI · Disetujui penulis

Risiko apa yang timbul saat organisasi mengandalkan AI generatif untuk menyusun skenario masa depan bagi strategi?

Frictionless Futures, Invisible Conflicts: The Case for Scenario Methodology in Human-AI IS Research
Diana Kozachek · International Conference on Information Systems (ICIS) · 2026
Ilustrasi untuk: Risiko apa yang timbul saat organisasi mengandalkan AI generatif untuk menyusun skenario masa depan bagi strategi?

Memuat pemutar Spotify; Spotify dapat memasang cookie. Perangkat ini mengingat pilihan Anda.

Temuan utama

  • Dibandingkan skenario buatan manusia, skenario yang dihasilkan GPT-4 memuat 92% lebih sedikit rujukan orang, 62% lebih sedikit rujukan entitas geopolitik, dan 16% lebih sedikit rujukan organisasi.
  • Skenario buatan AI secara sistematis melenyapkan kosakata yang memicu perdebatan seperti konflik, pemogokan, ketimpangan, dan pengangguran, lalu menggantikannya dengan istilah konsensus umum seperti etis dan platform.
  • Pembuatan skenario oleh AI mengurangi modalitas ketidakpastian dan memusat pada topik-topik homogen, memangkas lintasan masa depan yang terbuka menjadi prediksi berpusat pada teknologi dengan tingkat kepastian semu yang tinggi.
  • Evaluasi tersamar oleh 40 pakar bidang mengungkap bahwa tinjauan pakar secara individual gagal mendeteksi hilangnya unsur konflik dan ketidakpastian secara sistematis, yang hanya tampak jelas melalui analisis agregat.
  • Perencanaan berbasis skenario yang andal menuntut tiga pagar pengaman struktural: menjamin heterogenitas pemangku kepentingan, mempertahankan konflik yang belum terselesaikan dalam luaran skenario, dan menjaga keterbukaan lintasan alih-alih konvergensi prediksi.

Maknanya bagi Anda

CIO / Eksekutif TI

Mandate the inclusion of explicit stakeholder heterogeneity metrics in all automated AI deployment forecasting reports.

Manajer TI

Audit current generative AI scenario outputs for the systematic erasure of contentious vocabulary like conflict and strike.

Ahli Strategi Bisnis

Reject single-path AI predictions by requiring strategy teams to generate alternatives that maintain open uncertainty trajectories.

Peneliti

Conduct aggregate corpus analysis rather than relying on individual expert reviews to detect hidden systemic bias in AI texts.

Pembuat Kebijakan

Require organizations to evaluate pre-deployment AI governance models using scenarios that explicitly preserve unresolved societal conflict.

Ringkasan

Studi ini meneliti validitas penggunaan metodologi skenario dan AI generatif guna mengeksplorasi susunan organisasi manusia-AI di masa depan. Penelitian ini menganalisis korpus komparatif berisi 4.320 skenario buatan manusia dan buatan AI pada sektor pendidikan, energi, serta tata kelola untuk mengevaluasi bagaimana mutu utama riset masa depan dipertahankan. Berdasarkan temuan tersebut, studi ini merumuskan tiga kondisi inti yang diperlukan agar skenario mampu memberikan nilai pembuktian yang sahih.

Masalah

Riset dan praktik saat ini kerap kali baru meneliti tatanan AI setelah sistem diterapkan, sehingga kehilangan momentum penting sebelum keputusan desain menutup alternatif model tata kelola lain. Di sisi lain, organisasi kian sering melimpahkan pembuatan skenario kepada model AI generatif yang memproduksi narasi tampak masuk akal namun menyamarkan kompromi di dunia nyata.

Transkrip
Host: Halo dan selamat datang di A.I.S. Insights — powered by Living Knowledge. Saya Anna Ivy Summers. Hari ini kita membahas studi berjudul "Masa Depan Tanpa Hambatan, Konflik Tak Kasatmata: Urgensi Metodologi Skenario dalam Riset Sistem Informasi Manusia-AI", yang ditulis oleh Diana Kozachek dan dipresentasikan di International Conference on Information Systems 2026. Studi ini meneliti validitas penggunaan metodologi skenario dan AI generatif dalam mengeksplorasi susunan organisasi manusia-AI di masa depan. Bersama saya sudah ada Alex Ian Sutherland. Alex, bisa dijelaskan latar belakang dari riset ini?
Expert: Halo, Anna. Dalam dunia bisnis dan riset sistem informasi saat ini, evaluasi terhadap susunan AI kerap kali baru dilakukan setelah sistem diterapkan di lapangan. Masalahnya, ketika implementasi sudah berjalan, keputusan desain telah menutup alternatif model tata kelola lain. Pada saat yang sama, para pengambil keputusan kian sering menyerahkan pembuatan skenario masa depan kepada model AI generatif. Meskipun narasi yang dihasilkan tampak masuk akal, narasi tersebut kerap menyamarkan kompromi dan friksi nyata di dunia kerja.
Host: Jadi ada risiko bias ketika kita menggunakan AI generatif untuk merancang skenario strategis. Bagaimana pendekatan yang digunakan dalam studi ini untuk membuktikannya?
Expert: Pendekatan studi ini berbasis analisis data empiris berskala besar. Peneliti menganalisis korpus komparatif berisi 4.320 skenario yang disusun oleh manusia dan model GPT-4 pada tiga sektor utama, yaitu pendidikan, energi, dan tata kelola. Selain pengukuran komparatif terhadap teks, studi ini menyertakan evaluasi tersamar oleh 40 pakar bidang untuk melihat apakah penilaian manusia secara individu mampu menangkap anomali dalam skenario tersebut.
Host: Apa temuan terpenting saat membandingkan skenario buatan manusia dengan skenario buatan AI?
Expert: Temuan kuantitatifnya menunjukkan perbedaan yang sangat tegas. Dibandingkan skenario buatan manusia, skenario yang diproduksi GPT-4 memuat 92 persen lebih sedikit rujukan orang, 62 persen lebih sedikit rujukan entitas geopolitik, dan 16 persen lebih sedikit rujukan organisasi. AI secara konsisten mengaburkan aktor manusia dan institusional.
Host: Itu perbedaan angka yang sangat besar. Bagaimana dengan narasi atau isu yang dibahas di dalamnya?
Expert: Skenario buatan AI secara sistematis melenyapkan kosakata yang memicu perdebatan, seperti konflik, pemogokan, ketimpangan, dan pengangguran. Isu-isu gesekan sosial ini digantikan oleh istilah konsensus umum yang terkesan netral, seperti kata etis atau platform. Selain itu, AI mengurangi modalitas ketidakpastian dan memusat pada topik yang homogen. Akibatnya, lintasan masa depan yang seharusnya bercabang dan penuh kemungkinan justru dipersempit menjadi ramalan yang berpusat pada teknologi dengan kepastian semu.
Host: Dan bagaimana hasil evaluasi dari 40 pakar bidang yang dilibatkan?
Expert: Tinjauan pakar secara individual ternyata gagal mendeteksi hilangnya elemen konflik dan ketidakpastian tersebut. Di tingkat pembacaan individu, narasinya terlihat meyakinkan. Pola penghilangan konflik ini baru terbukti secara valid melalui analisis agregat lintas ribuan skenario.
Host: Ini poin yang sangat krusial bagi dunia bisnis. Apa makna praktis dari hasil studi ini bagi para eksekutif dan perencana strategi?
Expert: Jika organisasi menyusun rencana jangka panjang hanya menggunakan narasi dari AI generatif, strategi mereka akan berpijak pada asumsi masa depan yang bebas gesekan. Di dunia nyata, integrasi AI memicu negosiasi upah, resistensi pekerja, perubahan regulasi, dan masalah geopolitik. Mengabaikan variabel konflik berarti membangun model bisnis yang rapuh terhadap kejutan eksternal.
Host: Lalu, apa rekomendasi praktis bagi perusahaan yang ingin tetap memanfaatkan skenario secara efektif?
Expert: Studi ini menggarisbawahi tiga pagar pengaman struktural. Pertama, menjamin heterogenitas pemangku kepentingan dalam tim perumusan, sehingga suara tenaga kerja dan regulator tetap terwakili. Kedua, mempertahankan konflik yang belum terselesaikan di dalam dokumen akhir skenario, bukan menghapusnya demi menghasilkan narasi yang rapi. Ketiga, menjaga keterbukaan lintasan masa depan alih-alih memaksakan satu prediksi konvergen. AI dapat dipakai sebagai alat bantu eksplorasi teks, tetapi parameter konflik harus dikontrol secara ketat oleh manusia.
Host: Jadi, perencanaan strategis yang kokoh justru membutuhkan pemetaan konflik nyata, bukan sekadar gambaran masa depan yang mulus. Terima kasih banyak, Alex, atas wawasannya.
Expert: Sama-sama, Anna.
Host: Terima kasih telah mendengarkan A.I.S. Insights — powered by Living Knowledge. Sampai jumpa di episode berikutnya.
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

scenario planning, generative AI, futures research, strategic foresight, AI governance, epistemic friction