Volver a la biblioteca

Pregunta clave Nuevo

Procesado con IA · Aprobado por los autores

¿Cómo cambia la exposición reiterada a la IA las decisiones de las personas y quién se ve más influenciado?

Algorithmic Reshaping of Human Cognition: Quantifying Latent Preference Adaptation in Human-AI Collaboration via Inverse Reinforcement Learning
Jinyan Duan, chenyang fan, Liang Zhao, et al. · International Conference on Information Systems (ICIS) · 2026
Ilustración para: ¿Cómo cambia la exposición reiterada a la IA las decisiones de las personas y quién se ve más influenciado?

Carga el reproductor de Spotify; Spotify puede utilizar cookies. Este dispositivo recuerda su elección.

Hallazgos clave

  • Las elecciones de los participantes y los parámetros inferidos de ponderación de decisiones convergieron sistemáticamente hacia la lógica algorítmica a lo largo de las rondas, acompañados de una menor latencia de decisión y menos ajustes.
  • En etapas avanzadas de la interacción, los participantes exhibieron una externalización del riesgo, en la que su aversión al riesgo basal dejó de influir significativamente en sus elecciones al predominar la dependencia algorítmica.
  • Una mayor confianza inicial en la tecnología automatizada amplificó significativamente la convergencia hacia las recomendaciones algorítmicas.
  • Una mayor experiencia previa en inversiones y una mayor educación financiera debilitaron significativamente la convergencia, preservando el juicio independiente.

Qué significa para usted

CIO / Ejecutivo de TI

Mandate that enterprise AI deployment frameworks include mandatory periodic 'friction' features—such as forcing users to manually input key risk parameters every 10 interactions—to prevent automated risk outsourcing and cognitive convergence.

Director de TI

Audit current dashboard configurations in your team's workflows to introduce a 3-second mandatory review delay before executing AI-recommended financial decisions, breaking the loop of declining decision latency.

Estratega empresarial

Revise employee onboarding programs this week by adding a mandatory financial literacy and domain expertise module to shield junior staff from premature algorithmic preference adoption.

Investigador

Design a longitudinal user study tracking cognitive latency and decision-weight parameters using Inverse Reinforcement Learning to isolate the exact round threshold where human risk aversion collapses.

Responsable de políticas

Draft regulatory compliance guidelines requiring high-stakes AI systems in financial sectors to explicitly quantify and display user reliance metrics and algorithmic convergence rates.

Resumen

Este estudio examina cómo la interacción repetida con recomendaciones algorítmicas altera la lógica de decisión subyacente de las personas a lo largo del tiempo. Los autores realizaron un experimento de inversión financiera simulada de 50 rondas con 212 participantes y 10.600 decisiones, registrando elecciones conductuales, latencia cognitiva e interacciones con la interfaz. Mediante el aprendizaje por refuerzo inverso de máxima entropía y modelos de regresión de panel, infirieron cómo los pesos de las preferencias latentes de los participantes se desplazaron hacia el algoritmo.

Problema

La mayoría de las investigaciones sobre colaboración entre humanos e IA tratan las preferencias de decisión y los criterios de riesgo humanos como líneas base estáticas, centrándose únicamente en la adopción o rechazo puntual de consejos. Esto deja un vacío en la comprensión de cómo la exposición algorítmica sostenida reconfigura progresivamente las reglas internas de toma de decisiones en entornos complejos y de alto riesgo.

Transcripción
Host: Bienvenidas y bienvenidos a A.I.S. Insights — powered by Living Knowledge. Soy Anna Ivy Summers. Hoy analizamos un estudio titulado "Reconfiguración algorítmica de la cognición humana: cuantificación de la adaptación de preferencias latentes en la colaboración humano-IA mediante aprendizaje por refuerzo inverso", publicado en la International Conference on Information Systems 2026 por Jinyan Duan, chenyang fan, Liang Zhao, Siyu Qi, Chong Wu y LU DAI. Me acompaña Alex Ian Sutherland. Alex, este estudio evalúa cómo la interacción continua con recomendaciones de inteligencia artificial puede alterar la estructura cognitiva subyacente de quienes toman decisiones.

Expert: Hola, Anna. Así es. En la literatura sobre interacción humano-IA, se suele asumir que las preferencias de decisión y los perfiles de riesgo de los usuarios son fijos. Las investigaciones tradicionales se han enfocado casi exclusivamente en si una persona acepta o descarta una recomendación algorítmica en un momento aislado. Sin embargo, este enfoque pasa por alto cómo la exposición sostenida a sugerencias automatizadas en entornos complejos y de alto riesgo puede reconfigurar gradualmente las reglas internas con las que operan los profesionales.

Host: Para responder a esa interrogante, los autores implementaron un diseño metodológico estructurado. ¿Cómo se llevó a cabo el estudio?

Expert: Desarrollaron un experimento de simulación financiera que constó de 50 rondas continuas. Participaron 212 personas, generando un total de 10.600 decisiones observadas. Durante cada ronda, registraron las decisiones de asignación de activos, los tiempos de latencia cognitiva y las interacciones con la interfaz de usuario. Para modelar los cambios internos sin depender de autoinformes subjetivos, aplicaron algoritmos de aprendizaje por refuerzo inverso de máxima entropía combinados con modelos de regresión de panel, infiriendo cuantitativamente el peso relativo que los participantes daban a cada variable de decisión.

Host: Hablemos de los hallazgos principales. ¿Qué patrones empíricos identificaron a lo largo de las rondas?

Expert: Se registraron cuatro hallazgos centrales. En primer lugar, tanto las decisiones explícitas como los parámetros latentes de ponderación convergieron de forma sistemática hacia la lógica del algoritmo a medida que avanzaban las rondas. Esta alineación vino acompañada de una menor latencia cognitiva y una reducción en las modificaciones manuales que los usuarios hacían a las propuestas del sistema.

Host: Es decir, los participantes no solo aceptaban las sugerencias, sino que agilizaban su respuesta asumiendo el criterio algorítmico. ¿Qué ocurrió con su aversión al riesgo individual?

Expert: Ese es el segundo hallazgo, denominado externalización del riesgo. Al inicio del experimento, la aversión al riesgo basal de cada individuo guiaba sus decisiones de forma predecible. No obstante, en las etapas avanzadas, este rasgo personal dejó de tener un impacto estadísticamente significativo. Los participantes transfirieron de forma efectiva la gestión de la incertidumbre al modelo predictivo.

Host: ¿Y qué factores moderaron esta convergencia cognitiva?

Expert: La confianza inicial y el conocimiento previo mostraron efectos opuestos. Una mayor confianza inicial en la tecnología automatizada amplificó significativamente la velocidad y magnitud de la convergencia hacia el algoritmo. Por el contrario, los participantes con mayores niveles de educación financiera y experiencia previa en inversiones preservaron su juicio independiente, mostrando una resistencia medible a la asimilación algorítmica.

Host: Esto tiene repercusiones críticas para las organizaciones. ¿Cómo deberían los líderes empresariales interpretar estos datos al integrar herramientas analíticas en sus operaciones?

Expert: El estudio demuestra que el uso prolongado de asistentes algorítmicos no es cognitivamente neutro. En funciones críticas como la evaluación de crédito, suscripción de seguros o diagnóstico operativo, el personal puede dejar de aplicar su propio criterio de riesgo sin ser consciente de ello. Esto crea un riesgo sistémico: si la herramienta comete un error sistemático o enfrenta datos fuera de distribución, los operadores humanos podrían carecer de la distancia crítica para detectarlo.

Host: Considerando que la educación financiera actuó como un amortiguador, ¿qué medidas prácticas pueden adoptar las empresas?

Expert: Primero, invertir en formación técnica profunda sobre el dominio específico en el que opera el algoritmo, asegurando que los profesionales mantengan marcos conceptuales propios. Segundo, evaluar el diseño de interacción. Reducir la fricción no siempre es óptimo; introducir pausas deliberadas o requerir justificaciones explícitas antes de aceptar una sugerencia puede mitigar la externalización del riesgo y preservar la supervisión humana independiente.

Host: En resumen, la colaboración prolongada con algoritmos puede transformar progresivamente la cognición humana, delegando la gestión del riesgo en el software, salvo que exista suficiente pericia para mantener el criterio profesional. Alex, muchas gracias por desglosar este estudio.

Expert: Ha sido un placer, Anna.

Host: Agradecemos a nuestra audiencia por acompañarnos en A.I.S. Insights — powered by Living Knowledge. Hasta nuestro próximo episodio.
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

human-AI collaboration, algorithmic reliance, dynamic preference adaptation, inverse reinforcement learning, cognitive reshaping, financial decision-making