Retour à la bibliothèque

Question clé Nouveau

Traité par IA · Validé par l'auteur

Comment les dirigeants peuvent-ils définir et gérer la responsabilité lorsque les systèmes numériques créent des conséquences complexes et imprévues ?

RETHINKING RESPONSIBILITY IN THE DIGITAL AGE: A NARRATIVE APPROACH
François-Xavier de Vaujany, Aurélie Leclercq-Vandelannoitte, Jeremy Aroles, et al. · MIS Quarterly (MISQ) · 2025
Illustration pour : Comment les dirigeants peuvent-ils définir et gérer la responsabilité lorsque les systèmes numériques créent des conséquences complexes et imprévues ?

Charge le lecteur Spotify ; Spotify peut déposer des cookies. Cet appareil mémorise votre choix.

Principaux résultats

  • Identifie trois formes interdépendantes de responsabilité : la responsabilité causale (attribution rétrospective par des tiers), la responsabilité relationnelle (façonnement performatif orienté vers le présent par les systèmes technologiques) et la responsabilité narrative (prise en charge prospective de la responsabilité par le récit réflexif).
  • Illustre la façon dont les architectures numériques préfigurent et configurent activement les rôles, par exemple en présentant les étudiants comme des fraudeurs potentiels via les algorithmes de détection du plagiat, en orientant les utilisateurs des médias sociaux vers des interactions controversées ou en intégrant des biais via l'IA policière prédictive.
  • Montre que les algorithmes ne se contentent pas de refléter des faits, mais génèrent de manière performative des résultats et enferment récursivement les participants dans des identités prédéfinies de responsables ou d'irresponsables.
  • Soutient que les dirigeants informatiques, les concepteurs et les décideurs politiques doivent dépasser le blâme rétrospectif pour adopter des pratiques de conception proactives et sensibles aux valeurs, en assumant la responsabilité d'éviter de futurs préjudices systémiques.

Ce que cela implique pour vous

DSI / Dirigeant IT

Establish a mandatory value-sensitive design review board to evaluate how enterprise AI architectures prefigure user identities and distribute algorithmic accountability before deployment.

Responsable informatique

Audit current automated decision-making and monitoring workflows to identify where software systems cast users into predefined, potentially biased behavioral categories.

Stratège d'entreprise

Incorporate forward-looking narrative impact assessments into product roadmaps to account for the non-linear, systemic consequences of digital platform deployment.

Chercheur

Apply Paul Ricoeur's narrative theory to empirically investigate how sociomaterial systems recursively construct and distribute agency between humans and algorithms.

Décideur public

Draft regulatory frameworks that hold digital platform operators accountable for proactive harm prevention rather than relying solely on retrospective blame attribution.

Résumé

Ce commentaire de recherche conceptuel examine comment le concept de responsabilité doit évoluer dans une ère numérique de plus en plus connectée. En s'appuyant sur la théorie narrative et la phénoménologie herméneutique de Paul Ricœur, les auteurs analysent la nature performative des systèmes numériques à travers trois domaines illustratifs : la détection du plagiat, les plateformes de médias sociaux et l'intelligence artificielle. L'article développe un cadre montrant comment les systèmes sociomatériels construisent et distribuent narrativement la responsabilité entre les humains et les technologies.

Problématique

Les modèles traditionnels de responsabilité supposent une causalité directe et linéaire ainsi qu'une intention humaine consciente dans un cadre temporel localisé, attribuant le blâme de manière rétroactive à des acteurs individuels. Cependant, dans les environnements numériques modernes, les réseaux interconnectés, la performativité algorithmique et les capacités d'action distribuées produisent des conséquences émergentes et non linéaires à travers l'espace et le temps, rendant les modèles classiques d'imputabilité inefficaces.

Transcription
Host: Bonjour à toutes et à tous, et bienvenue dans « A.I.S. Insights — powered by Living Knowledge ». Je suis Anna Ivy Summers. Aujourd'hui, nous examinons une étude parue dans MIS Quarterly en 2025, intitulée « REPENSER LA RESPONSABILITÉ À L'ÈRE NUMÉRIQUE : UNE APPROCHE NARRATIVE », menée par François-Xavier de Vaujany, Aurélie Leclercq-Vandelannoitte, Jeremy Aroles, Lucas Introna et Scott Davidson. Cette étude propose une nouvelle grille de lecture pour comprendre comment la notion de responsabilité évolue au sein d'environnements numériques fortement connectés. Pour en parler, je reçois notre expert, Alex Ian Sutherland. Bonjour Alex.
Expert: Bonjour Anna.
Host: Alex, quel est le problème fondamental identifié par cette étude concernant notre conception classique de la responsabilité ?
Expert: Traditionnellement, nos cadres juridiques et organisationnels reposent sur une causalité linéaire et directe. On part du principe qu'un acteur humain agit avec une intention claire à un moment précis, ce qui permet ensuite de lui imputer le blâme ou le mérite de façon rétrospective. Or, dans les environnements numériques actuels, l'action est distribuée au sein de réseaux sociomatériels complexes. Les algorithmes, les données et les utilisateurs interagissent en continu, produisant des conséquences imprévues et non linéaires à travers le temps et l'espace. Les modèles habituels d'imputabilité s'avèrent dès lors insuffisants pour traiter ces situations.
Host: Pour répondre à ce défi conceptuel, quelle méthode les auteurs ont-ils retenue ?
Expert: L'étude s'appuie sur la théorie narrative et sur la phénoménologie herméneutique de Paul Ricœur. Les auteurs analysent la manière dont les technologies configurent le sens et les actions humaines. Pour illustrer leur cadre théorique, ils examinent trois cas d'usage précis : les logiciels de détection du plagiat dans l'enseignement, le fonctionnement des plateformes de médias sociaux et l'utilisation de l'intelligence artificielle dans la police prédictive.
Host: Quels sont les enseignements principaux qui ressortent de cette analyse ?
Expert: L'étude dégage trois formes interconnectées de responsabilité. D'abord, la responsabilité causale, qui relève de l'attribution rétrospective d'un acte par un tiers. Ensuite, la responsabilité relationnelle, orientée vers le présent, qui décrit la façon dont les outils technologiques façonnent activement les interactions. Enfin, la responsabilité narrative, qui correspond à la prise en charge réflexive et prospective de ses propres actes par le récit. L'étude montre que les architectures numériques ne sont pas de simples miroirs de données existantes : elles préfigurent les rôles sociaux. Par exemple, un outil de détection du plagiat tend à positionner d'emblée l'étudiant comme un fraudeur potentiel, les algorithmes de réseaux sociaux incitent structurellement à la controverse, et les modèles d'IA policière peuvent reproduire des biais statistiques en orientant la surveillance vers des populations spécifiques.
Host: Ces systèmes produisent donc ce que l'étude qualifie d'effets performatifs ?
Expert: Précisément. Les algorithmes ne se contentent pas de mesurer des comportements, ils contribuent à les engendrer. Ils enferment les participants dans des identités prédéfinies d'acteurs responsables ou irresponsables, ce qui conditionne la façon dont chacun peut ensuite justifier ses actions.
Host: Sur le plan opérationnel, que doivent retenir les dirigeants d'entreprise, les responsables informatiques et les concepteurs de systèmes ?
Expert: L'implication pratique essentielle est qu'il ne suffit plus de chercher un responsable individuel après l'apparition d'un préjudice. Pour les organisations, la gouvernance doit passer d'une logique de sanction a posteriori à une démarche proactive. Cela implique d'adopter des méthodes de conception sensibles aux valeurs, dès la phase de développement d'un système d'information. Les concepteurs et les décideurs doivent anticiper la manière dont les algorithmes orienteront les conduites humaines, évaluer les récits implicites véhiculés par leurs outils et mettre en place des mécanismes d'audit réguliers pour prévenir les dommages systémiques.
Host: En somme, cette étude invite à penser la responsabilité non plus seulement comme un blâme rétrospectif, mais comme un engagement prospectif inscrit dans la conception même de nos technologies. Merci beaucoup, Alex, pour cette mise en perspective.
Expert: Merci Anna.
Host: Merci à toutes et à tous de nous avoir écoutés sur « A.I.S. Insights — powered by Living Knowledge ». À très bientôt pour un nouvel épisode.
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

Responsibility, Information Technologies, Imputation, Temporality, Narrative Events, Emplotment, Sociomateriality