Zurück zur Bibliothek

Kernfrage Neu

KI-aufbereitet · Von Autoren geprüft

Wie können Führungskräfte Verantwortung definieren und steuern, wenn digitale Systeme komplexe, unbeabsichtigte Folgen erzeugen?

RETHINKING RESPONSIBILITY IN THE DIGITAL AGE: A NARRATIVE APPROACH
François-Xavier de Vaujany, Aurélie Leclercq-Vandelannoitte, Jeremy Aroles, et al. · MIS Quarterly (MISQ) · 2025
Illustration zu: Wie können Führungskräfte Verantwortung definieren und steuern, wenn digitale Systeme komplexe, unbeabsichtigte Folgen erzeugen?

Lädt den Spotify-Player; Spotify kann Cookies setzen. Dieses Gerät merkt sich Ihre Auswahl.

Zentrale Ergebnisse

  • Identifiziert drei miteinander verknüpfte Formen von Verantwortung: kausale Verantwortung (rückwärtsgewandte Zuschreibung durch Dritte), relationale Verantwortung (gegenwartsbezogene, performative Formung durch technologische Systeme) und narrative Verantwortung (zukunftsorientierte Verantwortungsübernahme durch reflexives Erzählen).
  • Veranschaulicht, wie digitale Architekturen Rollen aktiv vorstrukturieren und konfigurieren – etwa indem Plagiatsalgorithmen Studierende als potenzielle Betrüger darstellen, soziale Medien Nutzer auf kontroverse Interaktionen ausrichten oder KI im Predictive Policing Vorurteile verfestigt.
  • Zeigt, dass Algorithmen Fakten nicht bloß abbilden, sondern Ergebnisse performativ hervorbringen und Beteiligte rekursiv in vordefinierte verantwortliche oder unverantwortliche Identitäten drängen.
  • Argumentiert, dass IT-Führungskräfte, Entwickler und politische Entscheidungsträger über nachträgliche Schuldzuweisungen hinausgehen und proaktive, werteorientierte Gestaltungspraktiken anwenden müssen, um künftige systemische Schäden zu verhindern.

Bedeutung für die Praxis

CIO / IT-Leitung

Establish a mandatory value-sensitive design review board to evaluate how enterprise AI architectures prefigure user identities and distribute algorithmic accountability before deployment.

IT-Management

Audit current automated decision-making and monitoring workflows to identify where software systems cast users into predefined, potentially biased behavioral categories.

Unternehmensstrategie

Incorporate forward-looking narrative impact assessments into product roadmaps to account for the non-linear, systemic consequences of digital platform deployment.

Forschung

Apply Paul Ricoeur's narrative theory to empirically investigate how sociomaterial systems recursively construct and distribute agency between humans and algorithms.

Politische Entscheidungsträger

Draft regulatory frameworks that hold digital platform operators accountable for proactive harm prevention rather than relying solely on retrospective blame attribution.

Zusammenfassung

Dieser konzeptionelle Forschungskommentar untersucht, wie sich das Konzept der Verantwortung in einer zunehmend vernetzten, digitalen Ära weiterentwickeln muss. Gestützt auf Paul Ricœurs Erzähltheorie und hermeneutische Phänomenologie analysieren die Autoren den performativen Charakter digitaler Systeme anhand von drei Beispielen: Plagiatserkennung, Social-Media-Plattformen und künstliche Intelligenz. Die Arbeit entwickelt einen Bezugsrahmen, der zeigt, wie soziomaterielle Systeme Verantwortung narrativ konstruieren und zwischen Mensch und Technologie verteilen.

Problemstellung

Traditionelle Verantwortungsmodelle setzen direkte, lineare Kausalität und bewusste menschliche Absichten in einem eng umgrenzten Zeitrahmen voraus und weisen einzelnen Akteuren rückwirkend Schuld zu. In modernen digitalen Umgebungen führen vernetzte Systeme, algorithmische Performativität und verteilte Handlungsfähigkeit jedoch zu nichtlinearen Folgen über Raum und Zeit hinweg, wodurch klassische Zurechnungsmodelle wirkungslos werden.

Transkript
Host: Willkommen zu einer neuen Ausgabe von A.I.S. Insights — powered by Living Knowledge. Mein Name ist Anna Ivy Summers. In der heutigen Folge besprechen wir eine Studie, die 2025 im Fachjournal MIS Quarterly veröffentlicht wurde. Der Titel lautet: „Verantwortung im digitalen Zeitalter neu denken: Ein narrativer Ansatz“. Verfasst wurde die Studie von François-Xavier de Vaujany, Aurélie Leclercq-Vandelannoitte, Jeremy Aroles, Lucas Introna und Scott Davidson. Bei mir ist unser Analyst Alex Ian Sutherland. Alex, worum geht es in dieser Untersuchung?
Expert: Hallo Anna. Die Studie analysiert, wie sich das Konzept der Verantwortung verändern muss, wenn Menschen und digitale Systeme eng zusammenwirken. Herkömmliche Modelle greifen in vernetzten Umgebungen oft nicht mehr. Die Autoren stellen einen Bezugsrahmen vor, der zeigt, wie Verantwortung durch soziomaterielle Systeme narrativ geformt und zwischen Mensch und Technologie aufgeteilt wird.
Host: Gehen wir direkt auf das Problem ein, das in der Praxis besteht. Warum stoßen unsere etablierten Vorstellungen von Verantwortung an ihre Grenzen?
Expert: Traditionelle Modelle setzen voraus, dass eine Handlung eine direkte, lineare Ursache hat und auf einer bewussten Absicht einer Person beruht. Man blickt nach einem Vorfall zurück, um eine Schuldige oder einen Schuldigen festzustellen. In modernen digitalen Umgebungen entstehen Folgen jedoch oft nichtlinear über räumliche und zeitliche Grenzen hinweg. Wenn Algorithmen und vernetzte Plattformen Handlungen vorbereiten oder automatisieren, lässt sich das Ergebnis selten einer einzelnen Person oder einer isolierten Absicht zuweisen.
Host: Welchen Ansatz haben die Forschenden gewählt, um dieses Beziehungsgeflecht methodisch zu erfassen?
Expert: Es handelt sich um eine konzeptionelle Studie. Die Autoren greifen auf die Erzähltheorie und die hermeneutische Phänomenologie des Philosophen Paul Ricœur zurück. Um die Mechanismen greifbar zu machen, untersuchen sie drei praktische Anwendungsbereiche: Systeme zur Plagiatserkennung im Bildungswesen, Plattformen sozialer Medien und künstliche Intelligenz im Bereich des Predictive Policing.
Host: Welche zentralen Ergebnisse leitet die Studie aus diesen Beispielen ab?
Expert: Die Autoren identifizieren drei miteinander verknüpfte Formen von Verantwortung. Die erste ist die kausale Verantwortung, also die bekannte rückwärtsgewandte Zuweisung von Schuld durch Dritte. Die zweite ist die relationale Verantwortung. Sie beschreibt, wie technologische Systeme in der Gegenwart das Handeln und Wahrnehmen vorstrukturieren. Algorithmen bilden Realität nicht nur ab, sondern wirken performativ: Ein Plagiatstool rahmt Studierende strukturell als potenzielle Täter ein, und Social-Media-Algorithmen lenken Interaktionen gezielt auf Kontroversen. Die dritte Form ist die narrative Verantwortung. Das ist die zukunftsorientierte Fähigkeit, eigenes Handeln reflexiv zu verstehen und aktiv Verantwortung zu übernehmen.
Host: Die Technologie formt also Rollenmuster mit, bevor überhaupt ein Fehler passiert. Warum ist diese Erkenntnis für Unternehmen und Führungskräfte so wichtig?
Expert: Für Entscheidungsträger und IT-Verantwortliche bedeutet dies, dass ein rein reaktives Risikomanagement unzureichend ist. Wenn Unternehmen erst dann reagieren, wenn ein Schaden eingetreten ist, greifen sie auf veraltete Kausalitätsmodelle zurück und suchen oft fälschlicherweise nach einzelnen Schuldigen. Die Studie zeigt, dass Verantwortung bereits bei der Systemarchitektur beginnt. Entwickler und Führungskräfte müssen vorab antizipieren, welche Verhaltensweisen und Beziehungen ein Algorithmus erzeugt. Erforderlich sind proaktive, werteorientierte Gestaltungspraktiken, um systemische Risiken und unbeabsichtigte Verzerrungen von Beginn an einzugrenzen.
Host: Das verdeutlicht, dass Verantwortung bei digitalen Transformationen nicht erst am Ende als juristische Frage verhandelt werden darf, sondern Teil des Systemdesigns sein muss. Alex, vielen Dank für diese Erläuterungen.
Expert: Sehr gerne, Anna.
Host: Und vielen Dank an Sie fürs Zuhören bei A.I.S. Insights — powered by Living Knowledge. Bis zur nächsten Folge.
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

Responsibility, Information Technologies, Imputation, Temporality, Narrative Events, Emplotment, Sociomateriality