Zurück zur Bibliothek

Kernfrage Neu

KI-aufbereitet · Von Autoren geprüft

Wie verändert der wiederholte Kontakt mit KI-Ratschlägen menschliche Entscheidungen, und wer wird am stärksten beeinflusst?

Algorithmic Reshaping of Human Cognition: Quantifying Latent Preference Adaptation in Human-AI Collaboration via Inverse Reinforcement Learning
Jinyan Duan, chenyang fan, Liang Zhao, et al. · International Conference on Information Systems (ICIS) · 2026
Illustration zu: Wie verändert der wiederholte Kontakt mit KI-Ratschlägen menschliche Entscheidungen, und wer wird am stärksten beeinflusst?

Lädt den Spotify-Player; Spotify kann Cookies setzen. Dieses Gerät merkt sich Ihre Auswahl.

Zentrale Ergebnisse

  • Die Entscheidungen der Teilnehmenden und die abgeleiteten Entscheidungsgewichtungsparameter näherten sich im Verlauf der Runden systematisch der algorithmischen Logik an, begleitet von kürzeren Bedenkzeiten und weniger Anpassungen.
  • In späten Interaktionsphasen zeigten die Teilnehmenden ein Risiko-Outsourcing, bei dem ihre ursprüngliche Risikoaversion Entscheidungen nicht mehr signifikant beeinflusste, während das Verlassen auf den Algorithmus dominierte.
  • Ein höheres anfängliches Vertrauen in automatisierte Technologien verstärkte die Annäherung an algorithmische Empfehlungen signifikant.
  • Umfassendere Anlageerfahrung und eine höhere Finanzkompetenz schwächten diese Konvergenz signifikant ab und bewahrten die Urteilskraft.

Bedeutung für die Praxis

CIO / IT-Leitung

Mandate that enterprise AI deployment frameworks include mandatory periodic 'friction' features—such as forcing users to manually input key risk parameters every 10 interactions—to prevent automated risk outsourcing and cognitive convergence.

IT-Management

Audit current dashboard configurations in your team's workflows to introduce a 3-second mandatory review delay before executing AI-recommended financial decisions, breaking the loop of declining decision latency.

Unternehmensstrategie

Revise employee onboarding programs this week by adding a mandatory financial literacy and domain expertise module to shield junior staff from premature algorithmic preference adoption.

Forschung

Design a longitudinal user study tracking cognitive latency and decision-weight parameters using Inverse Reinforcement Learning to isolate the exact round threshold where human risk aversion collapses.

Politische Entscheidungsträger

Draft regulatory compliance guidelines requiring high-stakes AI systems in financial sectors to explicitly quantify and display user reliance metrics and algorithmic convergence rates.

Zusammenfassung

Diese Studie untersucht, wie wiederholte Interaktionen mit algorithmischen Empfehlungen die zugrunde liegende Entscheidungslogik von Personen im Zeitverlauf verändern. Die Autoren führten ein simuliertes Finanzanlageexperiment über 50 Runden mit 212 Teilnehmenden und 10.600 Entscheidungen durch, wobei Verhaltensentscheidungen, kognitive Latenzzeiten und Schnittstelleninteraktionen aufgezeichnet wurden. Mithilfe von Maximum-Entropy-Inversen-Verstärkungslernen und Panelregressionsmodellen rekonstruierten sie, wie sich die latenten Präferenzgewichte der Teilnehmenden schrittweise an den Algorithmus annäherten.

Problemstellung

Die meiste Forschung zur Mensch-KI-Zusammenarbeit behandelt menschliche Entscheidungspräferenzen und Risikokriterien als statische Baselines und konzentriert sich lediglich auf die einmalige Annahme oder Ablehnung von Ratschlägen. Dadurch bleibt unklar, wie eine dauerhafte Konfrontation mit Algorithmen interne Entscheidungsregeln in komplexen Umgebungen mit hoher Tragweite schrittweise umformt.

Transkript
Host: Willkommen zu einer neuen Ausgabe von A.I.S. Insights — powered by Living Knowledge. Mein Name ist Anna Ivy Summers.
Expert: Und mein Name ist Alex Ian Sutherland. Schön, dass Sie dabei sind.
Host: In dieser Episode betrachten wir eine aktuelle Studie mit dem Titel „Algorithmische Neugestaltung der menschlichen Kognition: Quantifizierung latenter Präferenzanpassung in der Mensch-KI-Zusammenarbeit mittels inversen Verstärkungslernens“. Die Studie stammt von Jinyan Duan, chenyang fan, Liang Zhao, Siyu Qi, Chong Wu und LU DAI und wurde für die International Conference on Information Systems 2026 verfasst. Alex, worum geht es in dieser Untersuchung im Kern?
Expert: Die Studie analysiert, wie sich die zugrunde liegende Entscheidungslogik von Anwendern im Zeitverlauf verändert, wenn sie wiederholt algorithmische Empfehlungen nutzen.
Host: Bislang wurde in Unternehmen oft primär darauf geachtet, ob ein Ratschlag im Einzelfall angenommen oder abgelehnt wird. Welches Problem greift die Studie hier auf?
Expert: Genau das ist die Lücke in der bisherigen Forschung. Häufig werden menschliche Präferenzen und Risikokriterien als statische Ausgangspunkte behandelt. Im operativen Alltag arbeiten Fachkräfte jedoch kontinuierlich über längere Zeiträume mit Systemen zusammen. Es fehlte bislang an empirischen Belegen dafür, wie eine solche dauerhafte Nutzung interne Entscheidungsregeln in komplexen Umgebungen mit hoher Tragweite schrittweise umformt.
Host: Wie sind die Forschenden vorgegangen, um diesen Prozess messbar zu machen?
Expert: Das Team führte ein kontrolliertes Finanzanlageexperiment über 50 Runden mit 212 Teilnehmenden durch, was insgesamt 10.600 Einzelentscheidungen ergab. Dabei wurden neben den Portfolio-Entscheidungen auch Bedenkzeiten und Interaktionen auf der Benutzeroberfläche erfasst. Mithilfe von Maximum-Entropy-Inversen-Verstärkungslernen und Panelregressionsmodellen rekonstruierten die Forschenden die latenten Entscheidungsgewichte der Teilnehmenden und machten sichtbar, wie sich diese im Zeitverlauf an den Algorithmus annäherten.
Host: Welche zentralen Ergebnisse liefert die Studie?
Expert: Erstens zeigte sich eine systematische Annäherung der Entscheidungsgewichte an die Logik des Algorithmus. Parallel dazu sanken die Bedenkzeiten und die Teilnehmenden nahmen immer weniger manuelle Anpassungen an den Vorschlägen vor. Zweitens trat in späten Runden ein Risiko-Outsourcing auf: Die ursprüngliche Risikoaversion der Personen hatte keinen statistisch signifikanten Einfluss mehr auf die Entscheidungen; stattdessen dominierte das Vertrauen in das System.
Host: Reagierten alle Personen auf die gleiche Weise?
Expert: Nein, es gab deutliche Unterschiede. Ein hohes anfängliches Vertrauen in automatisierte Systeme beschleunigte die Annäherung signifikant. Allerdings schwächten ausgeprägte Finanzkompetenz und praktische Anlageerfahrung diesen Angleichungseffekt signifikant ab. Erfahrene Teilnehmende bewahrten ihre unabhängige Urteilskraft über den gesamten Verlauf hinweg stabiler.
Host: Welche praktischen Konsequenzen ergeben sich daraus für Führungskräfte und Entscheidungsträger in der Wirtschaft?
Expert: Ein zentraler Punkt für die Praxis ist, dass Effizienzgewinne durch KI nicht isoliert betrachtet werden dürfen. Wenn Mitarbeitende unbemerkt die Bewertungsmaßstäbe eines Modells übernehmen, geht die kognitive Diversität im Team verloren. Weist der Algorithmus systematische Verzerrungen auf, werden diese ohne Gegenprüfung reproduziert.
Host: Welche Maßnahmen können Organisationen ergreifen, um dem entgegenzuwirken?
Expert: Erstens sollten Unternehmen kontinuierlich in die Fachkompetenz ihrer Teams investieren, da solides Domänenwissen als Schutzfaktor gegen unreflektierte Übernahme dient. Zweitens empfiehlt es sich, Schnittstellen so zu gestalten, dass kognitive Reibungspunkte erhalten bleiben – beispielsweise durch gezielte Aufforderungen zur Begründung von Entscheidungen oder regelmäßige manuelle Überprüfungsphasen. Drittens sollten Qualitätskontrollen nicht nur die Gesamtergebnisse prüfen, sondern auch überwachen, ob die menschliche Urteilsfähigkeit über längere Einsatzzeiten intakt bleibt.
Host: Zusammenfassend zeigt die Studie: Wiederholte Interaktion mit Algorithmen verändert nachweisbar die menschliche Entscheidungslogik, doch fundierte Fachkompetenz und gezieltes Systemdesign können diese Effekte abfedern. Vielen Dank, Alex, für diese Einordnung.
Expert: Sehr gerne, Anna.
Host: Und vielen Dank an Sie fürs Zuhören bei A.I.S. Insights — powered by Living Knowledge. Bis zum nächsten Mal.
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

human-AI collaboration, algorithmic reliance, dynamic preference adaptation, inverse reinforcement learning, cognitive reshaping, financial decision-making