Volver a la biblioteca

Pregunta clave Nuevo

Procesado con IA · Aprobado por los autores

¿Cómo afectan el trabajo iterativo y el conocimiento compartido del equipo al rendimiento de los proyectos de aprendizaje automático con incertidumbre?

Knowledge Overlap and Iterative Development in ML Projects: An Information Processing View
Oliver Krancher, Ilan Oshri, Julia Kotlarsky · International Conference on Information Systems (ICIS) · 2024

14 visualizaciones

Ilustración para: ¿Cómo afectan el trabajo iterativo y el conocimiento compartido del equipo al rendimiento de los proyectos de aprendizaje automático con incertidumbre?

Carga el reproductor de Spotify; Spotify puede utilizar cookies. Este dispositivo recuerda su elección.

Hallazgos clave

  • El conocimiento de ciencia de datos por parte de los expertos del dominio se asocia con una mayor eficiencia general del proyecto y una mayor eficacia de la solución cuando la incertidumbre sobre el caso de uso es alta.
  • El conocimiento del dominio de negocio por parte de los científicos de datos es particularmente valioso para la eficacia de la solución cuando los modelos de aprendizaje automático son muy inescrutables.
  • El desarrollo iterativo se asocia con una mayor eficiencia del proyecto, especialmente cuando la incertidumbre sobre el caso de uso es alta.
  • Los hallazgos sugieren que diferentes fuentes de incertidumbre requieren distintas respuestas: la iteración y la superposición de conocimientos deben ajustarse a la incertidumbre específica que enfrenta cada proyecto.

Qué significa para usted

CIO / Ejecutivo de TI

Allocate budget to enroll all enterprise domain experts in a foundational machine learning and data literacy bootcamp to build cross-functional knowledge overlap.

Director de TI

Schedule a planning session to restructure the upcoming ML sprint cycle into short, iterative feedback loops specifically for projects with high use-case uncertainty.

Estratega empresarial

Identify and assign two senior domain experts to embed directly with the data science team to help interpret highly inscrutable model outputs.

Investigador

Draft an experimental design matrix to test the interaction effects of model inscrutability and cross-functional knowledge overlap on project performance in your upcoming study.

Responsable de políticas

Draft a guideline requiring state-funded AI initiatives to incorporate mandatory cross-training protocols between technical developers and domain stakeholders to mitigate project uncertainty.

Resumen

Este estudio examina cómo los equipos de proyectos de aprendizaje automático abordan la incertidumbre en el desarrollo desde una perspectiva de procesamiento de la información. Los autores analizan datos de encuestas de 141 equipos de proyectos para evaluar cómo el desarrollo iterativo y la superposición de conocimientos interdisciplinarios entre científicos de datos y expertos del dominio influyen en la eficiencia del proyecto y la eficacia de la solución.

Problema

Los proyectos de aprendizaje automático a menudo enfrentan una incertidumbre sustancial. Los equipos pueden tener dificultades para identificar casos de uso y requisitos adecuados, mientras que la opacidad de muchos modelos de aprendizaje automático puede complicar la comprensión y mejora de sus resultados. Estos desafíos aumentan la necesidad de que los equipos procesen e integren información entre las áreas técnicas y de negocio.

Transcripción
Host: Bienvenidos a A.I.S. Insights — powered by Living Knowledge. Soy Anna Ivy Summers.
Expert: Y yo soy Alex Ian Sutherland.
Host: En este episodio analizamos un estudio titulado "Superposición de conocimientos y desarrollo iterativo en proyectos de aprendizaje automático: una perspectiva del procesamiento de la información", realizado por Oliver Krancher, Ilan Oshri y Julia Kotlarsky, y presentado en la International Conference on Information Systems de 2024. Este estudio examina cómo los equipos de proyectos de aprendizaje automático gestionan la incertidumbre a través del procesamiento de información entre perfiles técnicos y de negocio.
Expert: Así es, Anna. El estudio parte de un problema recurrente en las organizaciones: los proyectos de aprendizaje automático suelen operar bajo una incertidumbre sustancial en dos frentes principales.
Host: ¿Cuáles son esos dos tipos de incertidumbre que enfrentan los equipos?
Expert: El primero es la incertidumbre sobre el caso de uso, donde los equipos tienen dificultades para definir requisitos y objetivos claros. El segundo es la inescrutabilidad u opacidad de los propios modelos de aprendizaje automático, lo que dificulta comprender por qué producen ciertos resultados y cómo mejorarlos. Estos factores generan una necesidad constante de procesar e integrar información entre especialistas técnicos y de negocio.
Host: Para evaluar cómo mitigar estas barreras, ¿cuál fue el enfoque metodológico de los autores?
Expert: Los investigadores analizaron datos de encuestas realizadas a 141 equipos de proyectos de aprendizaje automático. Evaluaron el impacto de dos mecanismos principales: el desarrollo iterativo y la superposición de conocimientos interdisciplinarios, considerando su influencia en dos variables de desempeño: la eficiencia del proyecto y la eficacia de la solución técnica.
Host: Revisemos los hallazgos principales del estudio. ¿Qué observaron respecto a la superposición de conocimientos?
Expert: Los resultados muestran que los efectos dependen del tipo de incertidumbre presente. Por ejemplo, cuando la incertidumbre sobre el caso de uso es alta, el conocimiento de ciencia de datos por parte de los expertos del dominio se asocia con una mayor eficiencia del proyecto y con una mayor eficacia de la solución.
Host: Es decir, que el personal de negocio entienda conceptos de ciencia de datos aporta directamente al resultado en esas condiciones. ¿Y qué sucede con los científicos de datos que conocen el negocio?
Expert: El estudio identifica que el conocimiento del dominio de negocio por parte de los científicos de datos es particularmente valioso para la eficacia de la solución cuando los modelos son altamente inescrutables u opacos. En ese contexto, entender el negocio les ayuda a interpretar y calibrar los resultados del algoritmo.
Host: ¿Y qué determinó el estudio sobre el desarrollo iterativo?
Expert: El desarrollo iterativo se asocia con una mayor eficiencia del proyecto, especialmente cuando la incertidumbre sobre el caso de uso es elevada. En conjunto, los datos indican que diferentes fuentes de incertidumbre exigen mecanismos de respuesta específicos en lugar de una solución genérica.
Host: Pasemos al valor práctico para la gestión empresarial. ¿Qué pueden hacer los líderes de proyectos con estos datos?
Expert: La principal implicación práctica es alinear la asignación de recursos y capacidades según el tipo de riesgo del proyecto. Si un proyecto enfrenta requisitos ambiguos, conviene priorizar ciclos iterativos frecuentes y capacitar a los expertos funcionales en fundamentos de aprendizaje automático. En cambio, si el desafío radica en la opacidad algorítmica, la prioridad debe ser integrar a científicos de datos con un entendimiento profundo del contexto operativo.
Host: En conclusión, el estudio muestra que estructurar adecuadamente la superposición de habilidades y los procesos iterativos en función del tipo de incertidumbre permite optimizar tanto los tiempos de ejecución como la calidad de las soluciones implementadas. Muchas gracias por acompañarnos y explicar estos hallazgos, Alex.
Expert: Gracias a ti, Anna.
Host: Y a nuestra audiencia, gracias por sintonizar A.I.S. Insights — powered by Living Knowledge. Hasta nuestro próximo episodio.
Artificial Intelligence & Automation

Machine learning development projects, Knowledge overlap, Project success, Iterative development, Information processing view