Kembali ke pustaka

Pertanyaan kunci Baru

Diproses AI · Disetujui penulis

Risiko apa yang muncul saat organisasi publik membeli kecerdasan buatan dari vendor eksternal, dan bagaimana mengelolanya?

Between Innovation and Risk Aversion: A Contextual Perception of AI Sourcing Risks in Public Organisations
Zacchaeus Otunla, Tobias Mettler · International Conference on Information Systems (ICIS) · 2026
Ilustrasi untuk: Risiko apa yang muncul saat organisasi publik membeli kecerdasan buatan dari vendor eksternal, dan bagaimana mengelolanya?

Memuat pemutar Spotify; Spotify dapat memasang cookie. Perangkat ini mengingat pilihan Anda.

Temuan utama

  • Mengungkap tiga kategori utama risiko pengadaan AI: risiko operasionalisasi pra-penerapan, risiko vendor yang sadar risiko, dan risiko adaptif untuk kesiapan masa depan.
  • Menemukan bahwa risiko operasional kerap berakar dari adopsi AI demi memenuhi tekanan institusional eksternal alih-alih memecahkan masalah spesifik, yang memicu ketidaksesuaian ekspektasi kinerja.
  • Menunjukkan bahwa instansi pemerintah menghadapi kesulitan besar dalam menyeleksi vendor baru dengan rekam jejak terbatas serta memastikan penyedia eksternal mematuhi standar perlindungan data publik yang ketat.
  • Menyoroti bahwa organisasi mengatasi risiko ketergantungan pada vendor dan keusangan sistem melalui kontrak kerja fleksibel, gerbang kendali mutu, serta alokasi anggaran pemeliharaan.
  • Merumuskan model penghindaran risiko kontekstual yang menunjukkan bahwa aktor publik secara berulang menyeimbangkan keselarasan operasional, kepatuhan regulasi, dan kelincahan pengadaan di tengah ketidakpastian.

Maknanya bagi Anda

CIO / Eksekutif TI

Institute mandatory 'quality gates' and allocate dedicated maintenance budgets in upcoming vendor contracts to explicitly mitigate system obsolescence and lock-in risks.

Manajer TI

Audit all current AI vendor requirements to ensure strict adherence to public data protection standards and filter out unverified suppliers lacking a proven track record.

Ahli Strategi Bisnis

Review all active AI project proposals to verify they solve a specific internal operational problem rather than merely satisfying external institutional innovation pressures.

Peneliti

Design a study examining how public sector agencies navigate the friction between strict regulatory compliance and the need for procurement agility when sourcing AI.

Pembuat Kebijakan

Draft updated procurement guidelines that replace rigid legacy frameworks with flexible framework contracts specifically tailored to manage AI opacity and uncertainty.

Ringkasan

Studi ini meneliti bagaimana organisasi sektor publik mengidentifikasi dan mengatasi risiko tahap awal ketika membeli solusi kecerdasan buatan. Menggunakan pendekatan kualitatif eksploratif, para penulis menganalisis 33 wawancara semi-terstruktur dengan pejabat sektor publik Swiss yang berpengalaman mengelola inisiatif AI.

Masalah

Meskipun banyak riset berfokus pada bahaya setelah sistem kecerdasan buatan diterapkan, risiko pengadaan awal dan penentuan spesifikasi kebutuhan masih jarang diteliti. Lembaga publik menghadapi tekanan untuk berinovasi menggunakan vendor eksternal, tetapi model pengadaan tradisional gagal menangani ketidakjelasan, ketidakpastian, dan tantangan kepatuhan data pada AI.

Transkrip
Host: Selamat datang di A.I.S. Insights — powered by Living Knowledge. Saya Anna Ivy Summers. Hari ini kita membahas sebuah studi berjudul "Antara Inovasi dan Penghindaran Risiko: Persepsi Kontekstual terhadap Risiko Pengadaan AI di Organisasi Publik", yang disusun oleh Zacchaeus Otunla dan Tobias Mettler untuk ICIS 2026. Studi ini meneliti bagaimana organisasi sektor publik mengidentifikasi dan menangani risiko tahap awal ketika membeli solusi kecerdasan buatan. Bersama saya adalah analis Alex Ian Sutherland. Selamat datang, Alex.
Expert: Terima kasih, Anna. Senang bisa bergabung untuk membahas temuan studi ini.
Host: Alex, perbincangan umum seputar risiko AI sering berpusat pada dampak negatif setelah teknologi diterapkan, seperti bias atau kesalahan algoritma. Mengapa studi ini berfokus pada tahap pengadaan awal?
Expert: Karena keputusan di tahap awal menentukan seluruh siklus hidup sistem tersebut. Lembaga publik menghadapi tekanan besar untuk berinovasi dan sering kali harus mengandalkan vendor eksternal. Namun, kerangka kerja pengadaan tradisional dirancang untuk produk yang spesifikasinya sudah pasti. AI memiliki sifat ketidakpastian teknis, logika yang tidak sepenuhnya transparan, dan persyaratan tata kelola data yang ketat. Akibatnya, timbul kesenjangan antara prosedur birokrasi dan karakteristik unik teknologi AI.
Host: Lalu, bagaimana pendekatan yang digunakan para peneliti untuk mengkaji persoalan ini?
Expert: Para peneliti menggunakan pendekatan kualitatif eksploratif. Mereka mengumpulkan data dari tiga puluh tiga wawancara semi-terstruktur dengan pejabat sektor publik di Swiss yang memiliki pengalaman langsung dalam mengelola inisiatif AI. Melalui wawancara ini, peneliti menganalisis persepsi dan pengalaman nyata para praktisi dalam menavigasi proses pengadaan.
Host: Dari analisis tersebut, apa saja temuan utama yang diperoleh?
Expert: Studi ini memetakan tiga kategori utama risiko pengadaan AI. Pertama adalah risiko operasionalisasi pra-penerapan. Studi ini menemukan bahwa risiko operasional kerap terjadi karena adopsi AI didorong oleh tekanan institusional eksternal agar terlihat inovatif, bukan untuk menyelesaikan masalah operasional yang terdefinisi dengan jelas. Hal ini memicu ketidaksesuaian antara ekspektasi kinerja dan realitas teknis.
Host: Jadi, pengadaan tanpa kejelasan masalah operasional akan langsung menciptakan risiko. Lalu bagaimana dengan kategori kedua dan ketiga?
Expert: Kategori kedua adalah risiko vendor yang sadar risiko. Lembaga publik mengalami kesulitan besar ketika menilai vendor baru atau perusahaan rintisan yang belum memiliki rekam jejak mapan, terutama dalam menjamin kepatuhan terhadap regulasi perlindungan data publik. Kategori ketiga adalah risiko adaptif untuk kesiapan masa depan, seperti ancaman ketergantungan pada vendor tertentu serta risiko sistem cepat menjadi usang.
Host: Bagaimana para praktisi dalam studi ini merespons tantangan tersebut?
Expert: Praktisi merumuskan model penghindaran risiko kontekstual. Mereka menyeimbangkan kebutuhan kepatuhan regulasi, keselarasan fungsi kerja, dan kelincahan pengadaan. Tindakan konkret yang dilakukan mencakup penerapan kontrak kerja yang fleksibel, penggunaan gerbang kendali mutu bertahap sebelum pembayaran penuh, serta alokasi anggaran khusus untuk pemeliharaan berkelanjutan.
Host: Bagi para profesional pengadaan dan pengambil kebijakan, apa implikasi praktis yang paling relevan dari studi ini?
Expert: Pertama, proses pengadaan harus dimulai dari perumusan masalah bisnis yang spesifik, bukan sekadar mengikuti tren teknologi. Kedua, kriteria seleksi vendor perlu memperhitungkan audit keamanan data dan kapabilitas jangka panjang, bukan hanya janji fitur awal. Ketiga, organisasi disarankan menggunakan model kontrak bertahap yang memungkinkan evaluasi berkala untuk mencegah penguncian vendor dan mengantisipasi pembaruan sistem.
Host: Poin-poin yang sangat terarah bagi tata kelola pengadaan teknologi. Mengelola risiko sejak tahap perencanaan jelas menentukan keberhasilan adopsi jangka panjang. Terima kasih banyak atas analisisnya, Alex.
Expert: Sama-sama, Anna.
Host: Terima kasih kepada pendengar telah menyimak A.I.S. Insights — powered by Living Knowledge. Sampai jumpa di episode berikutnya.
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

AI sourcing, risk evaluation, public sector, vendor management, procurement agility, AI governance