Pertanyaan kunci
Diproses AI · Disetujui penulis
Bagaimana pengaruh membuat agen percakapan tampak lebih manusiawi terhadap reaksi pelanggan saat terjadi kesalahan?
Memuat pemutar Spotify; Spotify dapat memasang cookie. Perangkat ini mengingat pilihan Anda.
Temuan utama
- Persepsi kemanusiaan yang lebih tinggi pada agen konversasional mempertahankan persepsi normalitas situasional ketika terjadi kesalahan kecil.
- Normalitas situasional yang dipertahankan mengurangi kecenderungan pengguna untuk mengatribusikan penyebab kesalahan kepada agen, sehingga menjaga kepuasan layanan secara keseluruhan.
- Kesalahan yang dibuat oleh agen konversasional yang menyerupai manusia diproses secara serupa dengan kesalahan yang dibuat oleh agen layanan manusia, membuktikan bahwa desain menyerupai manusia dapat meredakan aversi algoritma.
Maknanya bagi Anda
CIO / Eksekutif TI
Allocate budget to pilot the integration of more human-centric design principles (e.g., nuanced language, empathetic phrasing) into our core customer-facing conversational agent, focusing on areas where process errors are most common, to preemptively reduce user error attribution and maintain satisfaction.
Manajer TI
Task your development team to review our current conversational agent's dialogue logs for instances of process errors and identify the top 3 most frequent error types to begin redesigning their responses with more humanlike cues (e.g., slight pauses, conversational fillers) to normalize the situation for users.
Ahli Strategi Bisnis
Initiate a cross-functional workshop with marketing and product development to explore how to strategically position our conversational agents' perceived humanness in customer communications, emphasizing its role in creating a seamless experience even when minor technical glitches occur.
Peneliti
Begin designing a follow-up study that experimentally manipulates specific humanlike conversational features (e.g., varying levels of politeness, acknowledgment of difficulty) within a simulated error scenario to quantify their direct impact on error attribution and situational normality, building upon the findings of Artificial Normality.
Pembuat Kebijakan
Convene a small working group to draft guidelines for the ethical development of conversational agents, recommending that AI design standards encourage the incorporation of humanlike qualities to enhance user experience and mitigate negative reactions to inevitable system errors, rather than solely focusing on pure efficiency.
Ringkasan
Penelitian ini menguji bagaimana merancang agen konversasional (CA) agar tampak lebih mirip manusia memengaruhi respons pengguna ketika kesalahan terjadi selama interaksi layanan. Melalui dua eksperimen daring acak, penulis mengevaluasi bagaimana persepsi kemanusiaan, normalitas situasional, dan atribusi kesalahan berdampak pada kepuasan layanan pengguna.
Masalah
Agen konversasional sering kali membuat kesalahan proses yang merusak kepuasan pengguna, karena pengguna cenderung melihat kesalahan algoritmik sebagai sesuatu yang tidak wajar dan membebankan kesalahan pada sistem. Memahami mekanisme teoretis yang menjelaskan bagaimana desain menyerupai manusia memitigasi reaksi negatif ini tetap menjadi kesenjangan kritis dalam penelitian interaksi manusia-AI.
Transkrip
Expert: Halo Anna. Senang sekali bisa kembali di sini. Studi ini sangat menarik karena membahas bagaimana desain agen konversasional atau AI layanan pelanggan yang dirancang menyerupai manusia dapat memengaruhi respons pengguna ketika terjadi kesalahan dalam layanan.
Host: Menarik sekali! Sebelum kita masuk ke temuan utama, mari kita bahas masalah dasarnya. Kita tahu bahwa agen konversasional atau chatbot sering kali membuat kesalahan saat melayani pelanggan. Mengapa kesalahan ini menjadi masalah besar bagi perusahaan?
Expert: Tepat sekali, Anna. Masalah utamanya adalah konsep yang dikenal sebagai aversi algoritma. Ketika manusia membuat kesalahan kecil dalam layanan, pelanggan cenderung memakluminya. Namun, ketika sistem AI melakukan kesalahan proses yang sama, pengguna cenderung menganggapnya sebagai sesuatu yang tidak wajar. Pengguna langsung membebankan kesalahan pada sistem AI secara keseluruhan, dan ini merusak kepuasan pelanggan secara drastis. Perusahaan selama ini kesulitan memahami bagaimana cara meredakan reaksi negatif tersebut.
Host: Jadi ada semacam standar ganda antara kesalahan yang dibuat manusia dan kesalahan yang dibuat oleh AI. Lalu, bagaimana studi ini menguji fenomena tersebut?
Expert: Para peneliti dalam studi ini melakukan dua eksperimen daring acak. Mereka merancang skenario layanan di mana pengguna berinteraksi dengan agen konversasional yang memiliki tingkat sifat kemanusiaan berbeda, mulai dari yang sangat mekanis hingga yang sangat menyerupai manusia. Peneliti mengamati bagaimana persepsi kemanusiaan ini memengaruhi persepsi normalitas situasional, cara pengguna mengatribusikan kesalahan, dan dampaknya terhadap kepuasan layanan secara keseluruhan.
Host: Pendekatan eksperimen yang sangat terstruktur. Dan apa yang ditemukan oleh para peneliti dari studi tersebut, Alex?
Expert: Ada tiga temuan utama yang sangat signifikan. Pertama, ketika agen konversasional dirancang agar terasa lebih manusiawi, pengguna cenderung mempertahankan persepsi normalitas situasional meskipun terjadi kesalahan kecil dalam layanan.
Host: Jadi rasa normal atau wajar itu tetap terjaga meskipun ada masalah?
Expert: Benar sekali. Dan temuan kedua melanjutkan poin itu: normalitas situasional yang terjaga ini secara langsung mengurangi kecenderungan pengguna untuk menyalahkan agen konversasional atas kesalahan tersebut. Karena pengguna tidak langsung membebankan kesalahan pada AI, kepuasan layanan secara keseluruhan tetap dapat dipertahankan.
Host: Luar biasa. Jadi persepsi kemanusiaan pada pada AI pada dasarnya mengubah cara psikologis pengguna dalam memproses kesalahan.
Expert: Tepat. Bahkan temuan ketiga menegaskan bahwa kesalahan yang dibuat oleh agen konversasional yang menyerupai manusia diproses oleh pengguna dengan cara yang sangat serupa seperti kesalahan yang dibuat oleh staf layanan manusia. Ini membuktikan secara empiris bahwa desain menyerupai manusia dapat meredakan aversi algoritma secara efektif.
Host: Ini adalah kabar baik bagi dunia bisnis. Alex, apa implikasi praktis dan poin penting yang harus dipahami oleh para pemimpin bisnis dari studi ini?
Expert: Poin paling krusial bagi bisnis adalah bahwa merancang AI yang terasa manusiawi bukan sekadar masalah estetika atau pemanis antarmuka. Ini adalah strategi manajemen risiko layanan. Kesalahan proses dalam layanan digital terkadang tidak bisa dihindari seratus persen. Namun, dengan menghadirkan agen konversasional yang memiliki persepsi kemanusiaan tinggi, perusahaan memiliki jaring pengaman psikologis yang melindungi kepuasan pelanggan saat terjadi gangguan.
Host: Artinya, investasi dalam desain AI yang humanis memberikan nilai return on investment yang nyata dalam menjaga retensi pelanggan, ya?
Expert: Sangat tepat, Anna. Bisnis tidak perlu ragu untuk menerapkan otomatisasi AI karena takut kesalahan kecil akan merusak reputasi merek. Kuncinya ada pada desain interaksinya. Jika agen AI dibangun dengan komunikasi yang empati dan menyerupai manusia, pengguna akan lebih toleran terhadap kesalahan kecil, memberi waktu bagi perusahaan untuk melakukan pemulihan layanan tanpa kehilangan kepercayaan pelanggan.
Host: Penjelasan yang sangat membuka wawasan! Kesimpulannya, memberikan sentuhan kemanusiaan pada agen konversasional AI bukan hanya membuat interaksi lebih menyenangkan, tetapi juga menjaga kepuasan pelanggan dan toleransi mereka saat terjadi kesalahan. Terima kasih banyak, Alex, atas analisisnya yang sangat mendalam.
Expert: Sama-sama, Anna. Selalu menyenangkan bisa berbagi di sini.
Host: Dan terima kasih kepada Anda para pendengar yang telah setia mendengarkan A.I.S. Insights — powered by Living Knowledge. Sampai jumpa di episode berikutnya!
Chatbot, Chatbot errors, situational normality, anthropomorphism, humanness, error attribution, user satisfaction