Kembali ke pustaka

Pertanyaan kunci Baru

Diproses AI · Disetujui penulis

Bagaimana kerja iteratif dan pengetahuan bersama tim memengaruhi kinerja proyek machine learning yang menghadapi ketidakpastian?

Knowledge Overlap and Iterative Development in ML Projects: An Information Processing View
Oliver Krancher, Ilan Oshri, Julia Kotlarsky · International Conference on Information Systems (ICIS) · 2024

14 kali dilihat

Ilustrasi untuk: Bagaimana kerja iteratif dan pengetahuan bersama tim memengaruhi kinerja proyek machine learning yang menghadapi ketidakpastian?

Memuat pemutar Spotify; Spotify dapat memasang cookie. Perangkat ini mengingat pilihan Anda.

Temuan utama

  • Pengetahuan sains data milik pakar domain berkaitan dengan efisiensi proyek yang lebih tinggi secara keseluruhan serta efektivitas solusi yang lebih besar saat ketidakpastian kasus penggunaan tinggi.
  • Pengetahuan domain bisnis milik ilmuwan data sangat berharga bagi efektivitas solusi ketika model ML sangat sulit dipahami.
  • Pengembangan iteratif berkaitan dengan efisiensi proyek yang lebih besar, terutama ketika ketidakpastian kasus penggunaan tinggi.
  • Temuan ini menunjukkan bahwa sumber ketidakpastian yang berbeda memerlukan respons yang berbeda: iterasi dan tumpang tindih pengetahuan harus disesuaikan dengan ketidakpastian spesifik yang dihadapi proyek.

Maknanya bagi Anda

CIO / Eksekutif TI

Allocate budget to enroll all enterprise domain experts in a foundational machine learning and data literacy bootcamp to build cross-functional knowledge overlap.

Manajer TI

Schedule a planning session to restructure the upcoming ML sprint cycle into short, iterative feedback loops specifically for projects with high use-case uncertainty.

Ahli Strategi Bisnis

Identify and assign two senior domain experts to embed directly with the data science team to help interpret highly inscrutable model outputs.

Peneliti

Draft an experimental design matrix to test the interaction effects of model inscrutability and cross-functional knowledge overlap on project performance in your upcoming study.

Pembuat Kebijakan

Draft a guideline requiring state-funded AI initiatives to incorporate mandatory cross-training protocols between technical developers and domain stakeholders to mitigate project uncertainty.

Ringkasan

Studi ini meneliti bagaimana tim proyek machine learning mengatasi ketidakpastian pengembangan menggunakan Sudut Pandang Pemrosesan Informasi. Penulis menganalisis data survei dari 141 tim proyek untuk mengevaluasi bagaimana pengembangan iteratif dan tumpang tindih pengetahuan lintas fungsi antara ilmuwan data dan pakar domain memengaruhi efisiensi proyek serta efektivitas solusi.

Masalah

Proyek machine learning sering kali menghadapi ketidakpastian yang cukup besar. Tim mungkin kesulitan mengidentifikasi kasus penggunaan dan persyaratan yang sesuai, sementara keburaman banyak model ML dapat menyulitkan pemahaman dan penyempurnaan keluarannya. Tantangan-tantangan ini meningkatkan kebutuhan tim untuk memproses dan mengintegrasikan informasi di seluruh domain bisnis dan teknis.

Transkrip
Host: Halo dan selamat datang di A.I.S. Insights — powered by Living Knowledge. Saya Anna Ivy Summers. Hari ini kita membahas sebuah studi berjudul "Tumpang Tindih Pengetahuan dan Pengembangan Iteratif dalam Proyek ML: Sebuah Sudut Pandang Pemrosesan Informasi". Studi ini ditulis oleh Oliver Krancher, Ilan Oshri, dan Julia Kotlarsky, serta dipresentasikan pada International Conference on Information Systems 2024. Fokus utamanya adalah bagaimana tim proyek machine learning mengatasi ketidakpastian pengembangan melalui pendekatan iteratif dan tumpang tindih pengetahuan lintas fungsi. Bersama saya telah hadir Alex Ian Sutherland. Selamat datang, Alex.
Expert: Terima kasih, Anna. Senang bisa bergabung untuk membahas studi ini.
Host: Alex, banyak organisasi berinvestasi pada machine learning, namun sering menemui kendala dalam pelaksanaannya. Masalah nyata apa yang sebenarnya disorot oleh para penulis dalam studi ini?
Expert: Studi ini menyoroti bahwa proyek machine learning memiliki dua sumber ketidakpastian utama. Pertama, ketidakpastian kasus penggunaan, yaitu kesulitan tim dalam mendefinisikan masalah bisnis dan merumuskan persyaratan yang jelas. Kedua, ketidakpastian model, yaitu keburaman atau sifat black-box dari banyak algoritma ML yang menyulitkan tim memahami alasan di balik keluaran sistem. Dari sudut pandang pemrosesan informasi, kedua faktor ini meningkatkan kebutuhan tim untuk menyelaraskan informasi teknis dan bisnis dalam jumlah besar.
Host: Lalu bagaimana metode yang digunakan para peneliti untuk menguji fenomena tersebut?
Expert: Para peneliti mengumpulkan dan menganalisis data survei dari 141 tim proyek machine learning. Pendekatan kuantitatif ini mengevaluasi bagaimana kombinasi antara pengembangan iteratif serta tingkat tumpang tindih pengetahuan antara ilmuwan data dan pakar domain memengaruhi efisiensi proyek dan efektivitas solusi yang dihasilkan.
Host: Mari kita bahas hasilnya. Apa saja temuan penting yang diperoleh dari analisis data tersebut?
Expert: Ada beberapa temuan terukur. Pertama, ketika pakar domain memiliki pemahaman dasar tentang sains data, efisiensi proyek tercatat lebih tinggi secara keseluruhan. Efektivitas solusi juga meningkat, terutama dalam situasi di mana ketidakpastian kasus penggunaan tergolong tinggi. Kedua, ketika ilmuwan data memiliki pemahaman tentang domain bisnis, efektivitas solusi meningkat secara nyata pada kondisi model yang sangat buram atau sulit dipahami.
Host: Bagaimana dengan peran pengembangan iteratif dalam temuan tersebut?
Expert: Pengembangan iteratif terbukti berkaitan positif dengan efisiensi proyek, dengan dampak yang paling signifikan terlihat saat ketidakpastian kasus penggunaan tinggi. Melalui siklus iterasi yang pendek, tim dapat secara bertahap mengklarifikasi persyaratan yang belum pasti. Namun, studi ini menunjukkan bahwa iterasi saja tidak cukup untuk mengatasi keburaman model jika tidak dibarengi dengan pemahaman domain oleh ilmuwan data untuk memvalidasi hasilnya.
Host: Ini poin yang sangat praktis. Apa implikasi utama dari temuan ini bagi para pengambil keputusan di ranah bisnis?
Expert: Implikasinya adalah organisasi perlu menyesuaikan mekanisme kolaborasi dengan jenis ketidakpastian yang dihadapi. Jika ketidakpastian bersumber dari kasus penggunaan, investasi waktu dalam pengembangan iteratif dan membekali pakar domain dengan literasi data dasar adalah langkah yang terbukti efektif. Sebaliknya, jika proyek berhadapan dengan algoritma yang kompleks dan buram, kuncinya adalah memastikan ilmuwan data mempelajari konteks bisnis secara mendalam agar evaluasi model tetap relevan secara operasional.
Host: Jadi kuncinya bukan memaksakan satu metode kerja seragam, melainkan menyelaraskan keahlian tim dengan karakteristik risiko proyek.
Expert: Tepat sekali. Mengelola distribusi pengetahuan secara spesifik membantu tim memproses informasi lintas domain secara terarah dan meminimalkan pemborosan sumber daya.
Host: Terima kasih atas penjelasan yang sangat terstruktur ini, Alex.
Expert: Sama-sama, Anna.
Host: Dan terima kasih kepada para pendengar setia A.I.S. Insights — powered by Living Knowledge. Sampai jumpa pada pembahasan studi berikutnya.
Artificial Intelligence & Automation

Machine learning development projects, Knowledge overlap, Project success, Iterative development, Information processing view