Volver a la biblioteca

Pregunta clave Nuevo

Procesado con IA · Aprobado por los autores

¿Qué enfoque ayuda mejor a los asistentes de IA a traducir peticiones imperfectas de usuarios en consultas de bases de datos precisas?

Designing for Imperfect Prompts: A Simulation-Based Evaluation of an LLM-Based Enterprise Data Assistant Using Knowledge Graphs
Niklas Wagner, Alexander Mdche · European Conference on Information Systems (ECIS) · 2026

11 visualizaciones

Ilustración para: ¿Qué enfoque ayuda mejor a los asistentes de IA a traducir peticiones imperfectas de usuarios en consultas de bases de datos precisas?

Carga el reproductor de Spotify; Spotify puede utilizar cookies. Este dispositivo recuerda su elección.

Hallazgos clave

  • La mediación basada en KG superó estadísticamente a la mediación basada en esquemas en las métricas de Precisión, Exhaustividad (Recall) y F1-Score.
  • Para GPT-4.1, el enfoque basado en KG logró una Precisión del 90.67% (en comparación con el 69.05% de la basada en esquemas) y un F1-Score del 89.47% (en comparación con el 71.02% de la basada en esquemas).
  • Para Claude Sonnet 4, el enfoque basado en KG logró una Precisión del 87.23% (en comparación con el 75.17% de la basada en esquemas) y un F1-Score del 90.29% (en comparación con el 82.17% de la basada en esquemas), mientras que la Exhaustividad permaneció estadísticamente comparable (93.52% frente a 92.56%).
  • El estudio está limitado por su enfoque en un entorno empresarial único dentro de una unidad de CFO, un conjunto finito de datos de 158 interacciones de 29 usuarios y la dependencia de una evaluación basada en simulaciones en lugar de despliegues en vivo.

Qué significa para usted

CIO / Ejecutivo de TI

Issue a directive to transition the enterprise's LLM-based data assistant architecture away from simple schema-based semantic similarity matching and onto a Knowledge Graph-based mediation layer constructed from database schemas to capture the demonstrated 12% to 21% precision improvements.

Director de TI

Instruct your database and engineering teams to begin constructing a Knowledge Graph from your current database schemas to serve as a semantic mediation layer for your LLM assistant, replacing manual prompt engineering.

Estratega empresarial

Launch a pilot program within the CFO business unit to deploy the Knowledge Graph-based data assistant, leveraging its verified ability to resolve incomplete, domain-specific prompts into accurate database queries for business users.

Investigador

Draft a research proposal to test the Knowledge Graph-based mediation layer in a live, real-world field deployment to gather empirical performance data beyond the current study's simulation of 158 interactions across 29 users.

Responsable de políticas

Draft an internal data governance policy requiring that all natural-language LLM interfaces querying corporate databases must use a schema-derived Knowledge Graph mediation layer to ensure structural query alignment and prevent inaccurate data retrieval.

Resumen

Este estudio diseña y evalúa una capa de mediación semántica para resolver automáticamente consultas imperfectas en lenguaje natural de usuarios de negocios. Los autores comparan dos variantes arquitectónicas: la mediación basada en esquemas que utiliza similitud semántica y la mediación basada en grafos de conocimiento (KG) construida a partir de esquemas de bases de datos. La evaluación se realiza mediante una simulación que utiliza registros de interacción del mundo real y se valida mediante anotadores humanos y marcos de trabajo de LLM como juez.

Problema

Los usuarios de negocios envían con frecuencia prompts breves, incompletos y estructuralmente deficientes que contienen terminología específica del dominio en lugar de instrucciones ejecutables de bases de datos. Los modelos de lenguaje grande independientes no logran alinear estas entradas imperfectas con los esquemas de bases de datos subyacentes, lo que conduce a consultas imprecisas y a una recuperación de datos incorrecta. Los trabajos previos que se basan en la ingeniería manual de prompts y en ejemplos de pocos disparos (few-shot) requieren mucha mano de obra y no logran escalarse de manera efectiva.

Transcripción
Host: Hola a todos y bienvenidos a A.I.S. Insights — powered by Living Knowledge. Soy Anna Ivy Summers. Hoy analizaremos un estudio muy relevante titulado "DISEÑO PARA PROMPTS IMPERFECTOS: UNA EVALUACIÓN BASADA EN SIMULACIÓN DE UN ASISTENTE DE DATOS EMPRESARIAL BASADO EN LLM UTILIZANDO GRAFOS DE CONOCIMIENTO". Me acompaña nuestro analista Alex Ian Sutherland. Alex, ¿de qué trata exactamente este estudio?

Expert: Hola Anna. En términos sencillos, este estudio explora cómo ayudar a las empresas a obtener respuestas precisas de sus bases de datos utilizando modelos de lenguaje, incluso cuando los empleados hacen preguntas vagas, incompletas o llenas de jerga interna. Para lograrlo, los investigadores diseñaron y evaluaron una capa de mediación semántica, comparando un enfoque basado en esquemas tradicionales frente a otro reforzado con grafos de conocimiento.

Host: Eso suena como un gran desafío cotidiano en muchas organizaciones. Alex, profundicemos en el problema central. ¿Por qué los modelos de lenguaje independientes sufren tanto cuando los usuarios de negocios hacen consultas?

Expert: Es un problema operativo bastante común. Los usuarios de negocio no son ingenieros de bases de datos. En lugar de escribir instrucciones técnicas o consultas estructuradas, envían promps breves e imperfectos, como "dame el margen del último trimestre por región". Los modelos de lenguaje generales no logran alinear automáticamente este vocabulario cotidiano con las complejas tablas y columnas de las bases de datos corporativas, lo que genera respuestas erróneas.

Host: ¿Y no se puede resolver eso simplemente enseñándole al modelo con ejemplos mediante ingeniería de prompts?

Expert: Se ha intentado, pero este estudio señala que la ingeniería manual de prompts y los ejemplos de pocos disparos no se escalan bien. Requieren mucho trabajo manual y mantenimiento constante. A medida que la empresa crece o la base de datos cambia, mantener esos prompts a mano se vuelve inviable y propenso a fallos.

Host: Entiendo. ¿Y cuál fue la metodología o el enfoque que propuso este estudio para solucionar esto?

Expert: Los autores evaluaron una capa de mediación semántica que actúa como un traductor entre el usuario y la base de datos. Compararon dos variantes: una que solo busca similitudes semánticas en el esquema de la base de datos, y otra que utiliza un grafo de conocimiento, o KG, construido directamente a partir de la estructura de los datos. Para probarlo, simularon interacciones utilizando registros reales de 29 usuarios en un departamento financiero.

Host: ¡Qué interesante! Y al hacer la comparación en esa simulación, ¿cuáles fueron los hallazgos principales?

Expert: La mediación basada en grafos de conocimiento superó estadísticamente al método tradicional de esquemas en todas las métricas clave. Por ejemplo, al utilizar el modelo GPT-4.1, la precisión saltó de un 69.05% con el enfoque tradicional a un 90.67% con el grafo de conocimiento. Además, la puntuación F1, que mide el balance entre precisión y exhaustividad, subió del 71.02% al 89.47%.

Host: Impresionante incremento. ¿Y qué ocurrió cuando probaron con otros modelos de lenguaje?

Expert: Observaron un patrón similar con Claude Sonnet 4. La precisión aumentó del 75.17% al 87.23% y el F1-Score llegó al 90.29%. Lo interesante es que la exhaustividad o recall se mantuvo muy alta en ambos casos, superando el 92%. Esto demuestra que el grafo de conocimiento ayuda al modelo a entender el contexto sin perder información relevante.

Host: Mencionaste que el estudio usó registros de un departamento financiero. ¿Existen limitaciones en estos resultados?

Expert: Sí, los autores son muy transparentes al respecto. El estudio se limitó a un entorno empresarial único dentro de una unidad de CFO, con un conjunto de datos de 158 interacciones. Además, es una evaluación basada en simulaciones y no en un despliegue en vivo en producción. Aún así, los resultados ofrecen una dirección técnica sumamente clara.

Host: Esto nos lleva a la pregunta clave para los líderes empresariales: ¿cuál es la lección práctica y el impacto para los negocios?

Expert: La lección principal es que no debemos esperar que los empleados de negocio se conviertan en expertos en ingeniería de prompts. La clave para que la inteligencia artificial generativa funcione con datos corporativos no es entrenar mejor al usuario, sino construir una arquitectura semántica sólida.

Host: Es decir, trasladar la inteligencia al sistema en lugar de exigirsela al usuario.

Expert: Exacto. Implementar un grafo de conocimiento como capa intermedia permite traducir automáticamente el lenguaje informal del día a día en consultas de bases de datos exactas. Esto reduce drásticamente el riesgo de tomar decisiones basadas en datos mal recuperados, disminuye los costos de mantenimiento y acelera la adopción real de la IA en toda la empresa.

Host: Un excelente resumen. Este estudio demuestra claramente que los grafos de conocimiento son una pieza fundamental para conectar el lenguaje humano imperfecto con la precisión que exigen los datos empresariales. Muchas gracias por tu análisis, Alex.

Expert: Un placer estar aquí, Anna.

Host: Y a todos nuestros oyentes, gracias por acompañarnos en A.I.S. Insights — powered by Living Knowledge. ¡Hasta el próximo episodio!
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

Large Language Models, Enterprise Data Assistants, Text-to-SQL, Knowledge Graphs, Design Science Research