Kembali ke pustaka

Pertanyaan kunci Baru

Diproses AI · Disetujui penulis

Seberapa efektif alat kecerdasan buatan dapat menyaring dan mengekstrak informasi dari dokumen pengadaan yang kompleks?

Rethinking Knowledge Work: Designing LLM-Based Systems for Complexity Management
Moritz Diener, Simon Kaps, Philipp Spitzer, dkk. · European Conference on Information Systems (ECIS) · 2026

26 kali dilihat

Ilustrasi untuk: Seberapa efektif alat kecerdasan buatan dapat menyaring dan mengekstrak informasi dari dokumen pengadaan yang kompleks?

Memuat pemutar Spotify; Spotify dapat memasang cookie. Perangkat ini mengingat pilihan Anda.

Temuan utama

  • Sistem berbasis LLM mengurangi waktu penyaringan dokumen awal sebesar 59% (dari rata-rata 3 menit 42 detik secara manual menjadi 1 menit 30 detik melalui sistem), yang didukung secara statistik.
  • Sistem mencapai akurasi pencocokan konten keseluruhan sebesar 88,82% untuk ekstraksi teks, dengan akurasi tertinggi untuk mengidentifikasi entitas pengadaan dan tempat eksekusi (masing-masing 94,10%) dan terendah untuk jenis layanan (79,40%).
  • Untuk tugas klasifikasi biner, sistem mencapai akurasi rata-rata sebesar 83,85%, berkinerja secara signifikan lebih baik dalam mendeteksi sertifikasi yang diperlukan (91,20%) dibandingkan referensi yang diperlukan (76,50%).
  • Umpan balik kualitatif mendukung kemampuan sistem untuk menurunkan persepsi kompleksitas dokumen, kepatuhan, dan proses, mengalihkan alur kerja manusia dari pembacaan dan ekstraksi manual ke verifikasi hasil.
  • Keterbatasan mencakup pengujian pada satu UKM Jerman di sektor pusat data, durasi studi jangka pendek, dan kumpulan data evaluasi yang kecil (34 dokumen), yang membatasi generalisasi langsung ke industri lain.

Maknanya bagi Anda

CIO / Eksekutif TI

Issue an IT directive mandating that any generative AI tools deployed for document screening must include a 'human-in-the-loop' verification interface, explicitly prohibiting automated final submissions due to the system's average 11.18% error rate in text extraction.

Manajer TI

Configure your document-processing pipeline's UI to visually highlight and force manual validation of 'type of service' and 'required references' fields, as the research shows these have lower extraction accuracies (79.4% and 76.5%) compared to highly reliable fields like 'procuring entity' (94.1%).

Ahli Strategi Bisnis

Calculate the potential ROI of deploying an LLM-based screening tool for your proposal-writing team, using the study's proven 59% reduction in initial document screening time (down to 1 minute 30 seconds per document) to project resource hours saved.

Peneliti

Write a research proposal to extend this design science framework by testing it on a dataset larger than 34 documents across multi-industry and non-German settings, focusing specifically on optimizing prompts to improve the low 76.5% accuracy baseline for identifying required references.

Pembuat Kebijakan

Initiate a draft proposal for public procurement formatting standards that mandates standardized, machine-readable sections for 'required certifications' and 'references' to minimize AI extraction errors (currently at 8.8% and 23.5% respectively) and ensure fair bidding processes for SMEs.

Ringkasan

Studi ini menerapkan penelitian ilmu desain untuk merancang dan mengevaluasi sistem berbasis LLM yang bertujuan membantu pekerja pengetahuan mengelola alur kerja kompleks yang padat dokumen. Sistem ini diimplementasikan dalam alat analisis tender dan dievaluasi menggunakan 34 dokumen pengadaan publik dunia nyata bersama dengan studi kualitatif think-aloud yang melibatkan lima pakar domain.

Masalah

Pekerja pengetahuan menghadapi beban kognitif yang berat akibat volume dokumen yang besar dan heterogen, aturan kepatuhan yang ketat di mana kesalahan kecil dapat menyebabkan diskualifikasi instan, serta tuntutan koordinasi lintas departemen yang kompleks. Penelitian sebelumnya gagal memberikan panduan preskriptif dalam merancang sistem berbasis LLM untuk mengatasi tantangan multidimensi ini.

Transkrip
Host: Selamat datang di podcast A.I.S. Insights — powered by Living Knowledge. Saya host Anda, Anna Ivy Summers. Hari ini kita akan membahas sebuah studi menarik berjudul "MEMIKIRKAN KEMBALI PEKERJAAN PENGETAHUAN: MERANCANG SISTEM BERBASIS LLM UNTUK MANAJEMEN KOMPLEKSITAS". Bersama saya telah hadir analis kita, Alex Ian Sutherland. Halo, Alex!
Expert: Halo, Anna. Senang sekali bisa kembali di sini. Studi yang kita bahas kali ini sangat relevan bagi para pemimpin bisnis yang ingin memahami bagaimana kecerdasan buatan, khususnya Large Language Model atau LLM, dapat mentransformasi pekerjaan pengetahuan yang rumit.
Host: Betul sekali. Secara ringkas, studi ini menguji bagaimana sistem berbasis LLM dirancang dan dievaluasi untuk membantu pekerja pengetahuan mengelola alur kerja kompleks yang padat dokumen, seperti proses analisis tender pengadaan publik. Alex, bisa tolong jelaskan masalah utama yang melatarbelakangi studi ini?
Expert: Tentu, Anna. Pekerja pengetahuan saat ini menghadapi beban kognitif yang sangat berat. Dalam proses tender pengadaan publik, misalnya, mereka harus memproses volume dokumen yang sangat besar dan heterogen. Ditambah lagi, aturan kepatuhan di sektor ini sangat ketat; kesalahan kecil saja bisa mengakibatkan diskualifikasi instan. Koordinasi lintas departemen juga sangat rumit. Studi-studi sebelumnya belum memberikan panduan praktis tentang cara merancang sistem berbasis LLM untuk mengatasi tantangan multidimensi ini.
Host: Jadi ada kebutuhan mendesak akan panduan perancangan sistem yang efektif. Lalu bagaimana pendekatan yang digunakan oleh para peneliti dalam studi ini?
Expert: Para peneliti menggunakan pendekatan penelitian ilmu desain. Mereka merancang dan mengimplementasikan sistem berbasis LLM ke dalam alat analisis tender. Sistem ini kemudian dievaluasi menggunakan 34 dokumen pengadaan publik dunia nyata. Selain itu, mereka melakukan studi kualitatif dengan metode think-aloud yang melibatkan lima pakar domain untuk mengamati secara langsung bagaimana para ahli berinteraksi dengan sistem tersebut.
Host: Sebuah pendekatan yang sangat teruji dengan data dunia nyata. Apa saja temuan utama dari evaluasi tersebut, Alex?
Expert: Ada beberapa hasil kunci yang sangat menarik. Pertama, dari segi efisiensi, sistem berbasis LLM ini berhasil mengurangi waktu penyaringan awal dokumen sebesar 59 persen. Waktu yang dibutuhkan berkurang dari rata-rata 3 menit 42 detik secara manual menjadi hanya 1 menit 30 detik melalui sistem, dan penurunan ini terbukti signifikan secara statistik.
Host: Penghematan waktu yang cukup besar! Bagaimana dengan tingkat akurasinya?
Expert: Untuk ekstraksi teks, sistem mencapai akurasi pencocokan konten keseluruhan sebesar 88,82 persen. Akurasi tertinggi ditemukan pada identifikasi entitas pengadaan dan tempat eksekusi yang mencapai 94,10 persen, sedangkan yang terendah adalah pada penentuan jenis layanan di angka 79,40 persen. Sementara itu, untuk tugas klasifikasi biner, akurasi rata-ratanya mencapai 83,85 persen, di mana sistem sangat unggul dalam mendeteksi sertifikasi yang diperlukan yaitu sebesar 91,20 persen.
Host: Dan bagaimana persepsi dari para pakar yang mencoba sistem ini?
Expert: Umpan balik kualitatif menunjukkan bahwa sistem ini berhasil menurunkan persepsi kompleksitas dokumen dan proses kepatuhan. Yang paling penting, sistem ini mengubah alur kerja manusia dari pembacaan dan ekstraksi data secara manual menjadi sekadar verifikasi hasil yang diberikan oleh AI.
Host: Itu perubahan paradigma yang sangat penting. Namun, apakah ada keterbatasan dari studi ini?
Expert: Ya, studi ini diuji pada satu UKM di Jerman yang beroperasi di sektor pusat data, dengan durasi yang relatif singkat dan kumpulan data 34 dokumen. Jadi, generalisasi langsung ke industri lain masih memerlukan pengujian lebih lanjut.
Host: Sekarang, mari kita bahas poin yang paling ditunggu para pendengar: mengapa hal ini penting bagi dunia bisnis?
Expert: Implikasi bisnisnya sangat besar, Anna. Pertama, efisiensi operasional. Dengan memangkas waktu penyaringan awal hingga 59 persen, perusahaan dapat merespons lebih banyak peluang tender dalam waktu lebih singkat tanpa harus menambah jumlah karyawan secara linear. Kedua, manajemen risiko. Akurasi tinggi dalam mendeteksi sertifikasi dan syarat kepatuhan meminimalkan risiko diskualifikasi akibat kesalahan manusia. Ketiga, alokasi sumber daya manusia yang lebih cerdas. Pekerja pengetahuan tidak lagi menghabiskan waktu untuk tugas-tugas administratif yang membosankan, melainkan fokus pada analisis strategis dan pembuatan keputusan.
Host: Luar biasa. Jadi, sistem LLM ini bukan untuk menggantikan manusia, melainkan memperkuat kapasitas pekerja pengetahuan agar bisa bekerja lebih efisien dan akurat.
Expert: Tepat sekali, Anna. AI mengambil alih beban kognitif ekstraksi data, sementara manusia berfokus pada verifikasi dan strategi bisnis.
Host: Terima kasih banyak atas penjelasan dan wawasannya yang sangat informatif, Alex.
Expert: Terima kasih kembali, Anna.
Host: Dan terima kasih kepada para pendengar yang telah setia menyimak A.I.S. Insights — powered by Living Knowledge. Sampai jumpa di episode mendatang!
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

large language models, generative AI, complexity management, knowledge work, design science research