Volver a la biblioteca

Pregunta clave Nuevo

Procesado con IA · Aprobado por los autores

¿Cómo pueden los líderes definir y gestionar la responsabilidad cuando los sistemas digitales y algoritmos generan resultados complejos e imprevistos?

RETHINKING RESPONSIBILITY IN THE DIGITAL AGE: A NARRATIVE APPROACH
François-Xavier de Vaujany, Aurélie Leclercq-Vandelannoitte, Jeremy Aroles, et al. · MIS Quarterly (MISQ) · 2025
Ilustración para: ¿Cómo pueden los líderes definir y gestionar la responsabilidad cuando los sistemas digitales y algoritmos generan resultados complejos e imprevistos?

Carga el reproductor de Spotify; Spotify puede utilizar cookies. Este dispositivo recuerda su elección.

Hallazgos clave

  • Identifica tres formas interrelacionadas de responsabilidad: responsabilidad causal (atribución retrospectiva por parte de terceros), responsabilidad relacional (configuración performativa en tiempo presente por parte de los sistemas tecnológicos) y responsabilidad narrativa (asunción prospectiva de responsabilidad mediante una narración reflexiva).
  • Ilustra cómo las arquitecturas digitales prefiguran y configuran activamente roles, tales como enmarcar a los estudiantes como posibles infractores mediante algoritmos de plagio, orientar a los usuarios de redes sociales hacia interacciones controvertidas o incorporar sesgos a través de la IA de vigilancia predictiva.
  • Muestra que los algoritmos no se limitan a reflejar hechos, sino que generan resultados de forma performativa y asignan recursivamente a los participantes identidades predefinidas de responsables o irresponsables.
  • Sostiene que los líderes de TI, diseñadores y responsables de políticas deben ir más allá de la culpa retrospectiva y adoptar prácticas proactivas de diseño sensible a los valores, asumiendo la responsabilidad para evitar futuros daños sistémicos.

Qué significa para usted

CIO / Ejecutivo de TI

Establish a mandatory value-sensitive design review board to evaluate how enterprise AI architectures prefigure user identities and distribute algorithmic accountability before deployment.

Director de TI

Audit current automated decision-making and monitoring workflows to identify where software systems cast users into predefined, potentially biased behavioral categories.

Estratega empresarial

Incorporate forward-looking narrative impact assessments into product roadmaps to account for the non-linear, systemic consequences of digital platform deployment.

Investigador

Apply Paul Ricoeur's narrative theory to empirically investigate how sociomaterial systems recursively construct and distribute agency between humans and algorithms.

Responsable de políticas

Draft regulatory frameworks that hold digital platform operators accountable for proactive harm prevention rather than relying solely on retrospective blame attribution.

Resumen

Este comentario de investigación conceptual investiga cómo debe evolucionar el concepto de responsabilidad en una era digital cada vez más interconectada. Basándose en la teoría narrativa y la fenomenología hermenéutica de Paul Ricoeur, los autores analizan la naturaleza performativa de los sistemas digitales a través de tres ámbitos ilustrativos: la detección de plagio, las plataformas de redes sociales y la inteligencia artificial. El artículo desarrolla un marco que muestra cómo los sistemas sociomateriales construyen y distribuyen narrativamente la responsabilidad entre humanos y tecnologías.

Problema

Los modelos tradicionales de responsabilidad asumen una causalidad directa y lineal junto con una intención humana consciente dentro de un marco temporal localizado, atribuyendo la culpa de forma retroactiva a actores individuales. En los entornos digitales modernos, sin embargo, las redes interconectadas, la performatividad algorítmica y las agencias distribuidas generan consecuencias emergentes y no lineales a través del espacio y el tiempo que vuelven ineficaces los modelos clásicos de rendición de cuentas.

Transcripción
Host: Bienvenidos a A.I.S. Insights — powered by Living Knowledge. Soy Anna Ivy Summers, y hoy analizamos un estudio conceptual titulado "REPLANTEAR LA RESPONSABILIDAD EN LA ERA DIGITAL: UN ENFOQUE NARRATIVO", publicado en MIS Quarterly en 2025 por François-Xavier de Vaujany, Aurélie Leclercq-Vandelannoitte, Jeremy Aroles, Lucas Introna y Scott Davidson. Conmigo está nuestro analista, Alex Ian Sutherland. Este estudio investiga cómo debe evolucionar el concepto de responsabilidad en entornos digitales interconectados. Hola, Alex.
Expert: Hola, Anna. Un gusto estar aquí.
Host: Alex, entremos directamente en la cuestión central. ¿Por qué los modelos tradicionales de responsabilidad ya no resultan adecuados en el contexto tecnológico moderno?
Expert: Tradicionalmente, la responsabilidad legal y ética se ha basado en modelos de causalidad directa y lineal. Se asume que una persona actúa de manera consciente e individual en un momento y lugar definidos, por lo que la rendición de cuentas consiste en buscar la culpa de forma retrospectiva tras un daño. Sin embargo, en los entornos digitales contemporáneos, las acciones ocurren a través de redes complejas compuestas por código, datos distribuidos y múltiples participantes. Las consecuencias emergen de manera no lineal en el tiempo y el espacio, lo que hace inviable aislar una causa humana única y directa.
Host: Ante esta dificultad, ¿cuál es el enfoque metodológico que adopta el estudio para examinar este problema?
Expert: El estudio fundamenta su análisis en la teoría narrativa y la fenomenología hermenéutica del filósofo Paul Ricoeur. Desde esta perspectiva conceptual, los autores examinan cómo las tecnologías digitales participan activamente en la narración de los acontecimientos. Para ilustrarlo, el estudio analiza tres áreas específicas: las herramientas de detección de plagio, las plataformas de redes sociales y los sistemas de inteligencia artificial para vigilancia predictiva. A través de estos casos, se describe cómo los sistemas sociomateriales configuran los roles y distribuyen la responsabilidad.
Host: Hablemos de los resultados. ¿Cuáles son las formas de responsabilidad que identifica el estudio?
Expert: El estudio propone un marco con tres formas interrelacionadas. La primera es la responsabilidad causal, que es la atribución retrospectiva que hace un tercero una vez ocurrido un hecho. La segunda es la responsabilidad relacional, que opera en el presente: aquí, las arquitecturas tecnológicas condicionan las interacciones y relaciones entre los usuarios. Y la tercera es la responsabilidad narrativa, de naturaleza prospectiva, que implica la asunción reflexiva de compromisos sobre el impacto futuro de las decisiones técnicas.
Host: En ese sentido, ¿cómo influyen los algoritmos en las identidades y conductas de las personas?
Expert: El estudio muestra que los algoritmos no se limitan a reflejar hechos neutrales de forma pasiva, sino que operan de manera performativa. Esto significa que prefiguran activamente las identidades de los involucrados. Por ejemplo, en el ámbito educativo, un software antiplagio puede enmarcar de entrada al estudiante como un infractor potencial. En redes sociales, los algoritmos de optimización promueven dinámicas controvertidas. El sistema clasifica continuamente a las personas como responsables o irresponsables según parámetros predeterminados.
Host: Pasemos al valor práctico para las empresas. ¿Por qué este análisis es relevante para directivos de tecnología y líderes empresariales?
Expert: Su relevancia radica en la gestión del riesgo ético y operativo. Cuando un sistema automatizado comete un error o genera sesgos, las organizaciones tienden a buscar un responsable individual o culpar a la complejidad técnica. El estudio argumenta que este enfoque retrospectivo es insuficiente para evitar daños futuros. Para los líderes de tecnología y diseñadores, la implicación práctica es adoptar metodologías como el diseño sensible a los valores. Esto exige anticipar, desde la fase conceptual del desarrollo del software, cómo las plataformas distribuirán las decisiones, evitando que la arquitectura tecnológica genere dinámicas perjudiciales.
Host: En definitiva, se trata de pasar de la simple asignación de culpas a una gobernanza preventiva y deliberada del diseño de software. Alex, gracias por explicar las conclusiones de este estudio.
Expert: Gracias a ti, Anna.
Host: A nuestros oyentes, gracias por acompañarnos en A.I.S. Insights — powered by Living Knowledge. Hasta nuestro próximo episodio.
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

Responsibility, Information Technologies, Imputation, Temporality, Narrative Events, Emplotment, Sociomateriality