Kembali ke pustaka

Pertanyaan kunci

Diproses AI · Disetujui penulis

Bagaimana penjelasan dengan umpan balik AI memengaruhi pembelajaran dan kinerja tugas berdasarkan pengetahuan awal seseorang?

Tell me more, tell me more: the impact of explanations on learning from feedback provided by Artificial Intelligence
Maximilian Förster, Hanna R. Broder, Marie C. Fahr, dkk. · European Journal of Information Systems · 2025

25 kali dilihat · 10 kali didengarkan

Ilustrasi untuk: Bagaimana penjelasan dengan umpan balik AI memengaruhi pembelajaran dan kinerja tugas berdasarkan pengetahuan awal seseorang?

Memuat pemutar Spotify; Spotify dapat memasang cookie. Perangkat ini mengingat pilihan Anda.

Temuan utama

  • Penjelasan berdampak positif pada hasil pembelajaran bagi pengguna dengan pengetahuan awal yang lebih sedikit, efek yang sepenuhnya dimediasi oleh keinformatifan yang dirasakan.
  • Penjelasan meningkatkan kinerja tugas secara langsung bagi pengguna dengan pengetahuan awal yang tinggi.
  • Bagi pengguna dengan pengetahuan awal yang rendah, dampak positif penjelasan terhadap kinerja tugas sepenuhnya dimediasi oleh keinformatifan.

Maknanya bagi Anda

CIO / Eksekutif TI

Initiate a cross-functional working group involving IT, product development, and user experience teams to prioritize the integration of AI-driven feedback systems that include clear, context-specific explanations, focusing initially on applications with less experienced user bases.

Manajer TI

Review the current AI feedback mechanisms within your team's systems and identify 1-2 pilot opportunities to implement or enhance explanations, specifically targeting areas where user error or confusion is frequently observed, and gather baseline performance data.

Ahli Strategi Bisnis

Task your team with identifying key business processes or customer-facing interactions where AI feedback is being used or considered, and assess the potential impact of explanation-enhanced AI on user adoption, efficiency, and overall customer satisfaction, particularly for novice users.

Peneliti

Design a pilot study protocol to specifically investigate how the *type* and *level of detail* of explanations provided by AI feedback influence perceived informativeness and learning outcomes for users with varying levels of domain expertise in a controlled environment.

Pembuat Kebijakan

Begin drafting guidelines or a framework for the ethical deployment of AI systems that mandate, where feasible, the inclusion of explanations for AI-generated feedback, prioritizing sectors with high user impact and potential for knowledge gaps, such as education and public services.

Ringkasan

Berdasarkan Teori Umpan Balik, penelitian ini menyelidiki apakah, bagaimana, dan kapan penjelasan yang diberikan bersama umpan balik AI meningkatkan pembelajaran dan kinerja tugas manusia. Model penelitian ini dievaluasi menggunakan eksperimen daring antar-subjek yang diacak dengan 573 peserta yang menyelesaikan tugas pencocokan gambar-lokasi, dilengkapi dengan diskusi kelompok terfokus bersama para pakar dan pengguna AI.

Masalah

Meskipun mendukung pembelajaran manusia merupakan tujuan utama dari Kecerdasan Buatan yang Dapat Dijelaskan (XAI), pemahaman tentang bagaimana penjelasan benar-benar memfasilitasi pembelajaran dari umpan balik AI masih terbatas. Secara khusus, penelitian masih kurang memiliki kejelasan mengenai mekanisme teoritis yang mendasari dan bagaimana pengetahuan awal pengguna memengaruhi hasil pembelajaran serta kinerja.

Transkrip
Host: Selamat datang di A.I.S. Insights — powered by Living Knowledge. Saya Anna Ivy Summers.

Expert: Dan saya Alex Ian Sutherland. Senang bisa kembali di sini untuk berbagi wawasan bisnis dan teknologi.

Host: Hari ini kita membahas sebuah studi yang sangat menarik berjudul "Beri tahu saya lebih banyak, beri tahu saya lebih banyak: dampak penjelasan terhadap pembelajaran dari umpan balik yang diberikan oleh Kecerdasan Buatan". Studi ini meneliti apakah, bagaimana, dan kapan penjelasan yang menyertai umpan balik dari AI dapat benar-benar meningkatkan pembelajaran serta kinerja tugas manusia.

Expert: Ya, Anna. Ini adalah topik yang sangat penting karena banyak perusahaan saat ini berlomba-lomba mengintegrasikan AI ke dalam alur kerja harian karyawan mereka.

Host: Benar sekali, Alex. Sebelum kita masuk lebih dalam, bisa jelaskan masalah nyata yang melatarbelakangi studi ini? Apa yang membuat isu ini begitu mendesak bagi dunia profesional?

Expert: Tentu. Saat ini, salah satu tujuan utama pengembangan Kecerdasan Buatan yang Dapat Dijelaskan atau XAI adalah untuk membantu manusia belajar. Namun, kenyataannya pemahaman kita tentang bagaimana penjelasan AI benar-benar memfasilitasi proses belajar itu masih sangat terbatas. Banyak yang mengasumsikan bahwa cukup dengan menambahkan penjelasan AI, pengguna otomatis akan paham. Studi ini menyoroti bahwa kita masih kekurangan kejelasan mengenai mekanisme teoritis di baliknya, terutama tentang bagaimana tingkat pengetahuan awal seseorang memengaruhi hasil belajar dan kinerjanya saat menerima umpan balik AI.

Host: Jadi, tidak semua orang merespons umpan balik AI dengan cara yang sama, ya. Lalu, bagaimana para peneliti menguji hal ini dalam studi mereka?

Expert: Pendekatan yang digunakan cukup komprehensif. Para peneliti melakukan eksperimen daring antar-subjek yang diacak dengan melibatkan lima ratus tujuh puluh tiga peserta. Para peserta ini diminta menyelesaikan tugas mencocokkan gambar dengan lokasi, di mana mereka menerima umpan balik dari AI yang dilengkapi dengan penjelasan atau tanpa penjelasan. Tidak hanya itu, studi ini juga melengkapi datanya dengan diskusi kelompok terfokus bersama para pakar dan pengguna AI untuk mendapatkan sudut pandang yang mendalam.

Host: Metode eksperimen yang sangat terstruktur. Lalu, Alex, apa saja temuan utama dari studi ini?

Expert: Ada beberapa temuan penting. Pertama, bagi pengguna yang memiliki pengetahuan awal yang rendah atau masih pemula, penjelasan dari AI memberikan dampak positif pada hasil pembelajaran mereka. Namun, efek ini sepenuhnya dimediasi oleh apa yang disebut sebagai "keinformatifan yang dirasakan". Artinya, pemula hanya akan belajar jika mereka merasa penjelasan AI tersebut benar-benar informatif dan mudah dipahami.

Host: Menarik! Jadi bagi pemula, kualitas dan nilai informasi dari penjelasan AI itu adalah kuncinya. Bagaimana dengan pengguna yang sudah memiliki pengetahuan awal yang tinggi atau sudah berpengalaman?

Expert: Nah, ini perbedaan yang sangat menarik. Bagi pengguna dengan pengetahuan awal yang tinggi, penjelasan AI berdampak langsung pada peningkatan kinerja tugas mereka secara instan. Mereka tidak lagi fokus menggunakan penjelasan AI untuk mempelajari konsep dasar dari awal, melainkan menggunakan informasi tersebut untuk mengonfirmasi, mengoreksi, atau mempercepat pengambilan keputusan mereka.

Host: Dan bagaimana dengan dampak penjelasan AI terhadap kinerja tugas bagi mereka yang berpengetahuan rendah?

Expert: Bagi pengguna dengan pengetahuan awal yang rendah, dampak penjelasan terhadap kinerja tugas juga sepenuhnya bergantung pada keinformatifan yang dirasakan. Jika penjelasannya tidak dirasakan informatif, kinerja mereka tidak akan meningkat.

Host: Temuan yang sangat membuka mata. Sekarang, mari kita bahas bagian yang paling krusial bagi para pendengar kita: mengapa hal ini sangat penting bagi dunia bisnis? Apa implikasi praktisnya bagi para pemimpin organisasi?

Expert: Implikasinya sangat besar, Anna. Pesan utamanya adalah bisnis tidak bisa menggunakan pendekatan tunggal atau *one-size-fits-all* saat mengimplementasikan AI di tempat kerja. Jika perusahaan ingin menggunakan AI untuk peningkatan keahlian atau *upskilling* karyawan junior, sistem AI harus dirancang untuk memberikan penjelasan yang kaya, kontekstual, dan sangat informatif agar proses pembelajaran benar-benar terjadi.

Host: Berarti perancangan antarmuka dan respons AI harus disesuaikan dengan siapa yang menggunakannya?

Expert: Tepat sekali. Untuk karyawan senior atau pakar, memberikan terlalu banyak penjelasan dasar justru bisa menurunkan efisiensi. Bagi mereka, AI sebaiknya memberikan dorongan informasi yang ringkas dan relevan langsung ke inti masalah untuk mempercepat kinerja. Sebaliknya, memberikan informasi yang terlalu singkat kepada pemula tidak akan membantu mereka berkembang. Memahami profil pengetahuan pengguna adalah kunci untuk memaksimalkan imbal hasil atas investasi AI dalam perusahaan.

Host: Kesimpulan yang sangat berharga. Jadi, mengintegrasikan AI bukan sekadar tentang mengadopsi teknologinya, tetapi tentang memahami psikologi pembelajaran pengguna agar kinerja organisasi dapat meningkat secara optimal.

Expert: Sangat tepat, Anna. Penyesuaian strategi AI berdasarkan tingkat keahlian pengguna adalah langkah nyata menuju transformasi digital yang sukses.

Host: Terima kasih banyak, Alex, atas analisis dan penjelasannya yang sangat jelas. Dan terima kasih kepada para pendengar setia A.I.S. Insights — powered by Living Knowledge. Semoga wawasan hari ini bermanfaat bagi strategi bisnis Anda. Sampai jumpa di episode mendatang!
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

Explainable Artificial Intelligence, XAI, AI feedback, learning outcome, informativeness, feedback theory