Un informe global de SAS e IDC revela que el 97,2% de los usuarios anula decisiones tomadas por IA al menos en algunos casos, señalando la falta de explicabilidad como el principal factor de desconfianza
El informe anual The Data and AI Impact Report de SAS, desarrollado junto a IDC, reveló que el 97,2% de los colaboradores anula recomendaciones de inteligencia artificial cuando los sistemas no logran explicar con claridad cómo alcanzaron sus conclusiones, lo que provoca correcciones manuales y pérdidas de productividad. El estudio, presentado en el marco de SAS Innovate on Tour México 2026 por voceros como Bryan Harris y Mario Ulloa, destaca que las organizaciones que implementan gobernanza, explicabilidad y calidad de datos tienen 15 veces más probabilidades de obtener un retorno de inversión sólido (62% frente a un 4%), en un contexto donde solo el 17,5% de las empresas cuenta con una infraestructura de datos optimizada para desplegar agentes de IA de forma segura.
En plena carrera corporativa por integrar la inteligencia artificial en procesos estratégicos y operativos, la tecnología enfrenta un cuello de botella crítico: la confianza humana. De acuerdo con la segunda edición anual de The Data and AI Impact Report, desarrollado por SAS con hallazgos de investigación de la firma global IDC, el 97,2% de los usuarios anula las recomendaciones generadas por IA al menos en algunos casos. La investigación constató que el principal motivo detrás de estas correcciones manuales —incluso cuando el resultado técnico pudiera ser acertado— radica en la incapacidad del sistema para explicar de forma transparente cómo llegó a esa conclusión.
Presentado en el marco del foro SAS Innovate on Tour México 2026, el estudio profundiza en cómo la calidad de los datos, las políticas de IA responsable y los marcos de gobernanza están dictando el éxito financiero en América Latina. La conclusión es contundente: las organizaciones que implementan prácticas rigurosas de IA confiable tienen 15 veces más probabilidades de reportar un retorno de inversión (ROI) sólido o alto (62% frente a apenas un 4%) en comparación con aquellas rezagadas.
El costo de la ‘caja negra’: Dudas operativas y brecha de confianza ⚠️📉🔍
A medida que los modelos transitan desde la generación de contenido hacia agentes autónomos que ejecutan flujos de trabajo completos, la resistencia de los colaboradores se agudiza si no comprenden el razonamiento de la máquina:
- Pérdida de confianza en sistemas agénticos: El nivel de confianza cae significativamente del 76% en la IA generativa al 66% en la IA agéntica, evidenciando una mayor cautela conforme las herramientas adquieren mayor margen de acción sin supervisión directa.
- Déficit de productividad e intervención manual: Cuando los colaboradores desconfían y corrigen manualmente las salidas de la IA, se diluyen las ganancias de tiempo y rentabilidad proyectadas, perpetuando un círculo vicioso de ineficiencia.
- Tasas de error en entornos críticos: Los agentes de IA más avanzados pueden registrar tasas de error superiores al 25% en tareas complejas, lo que hace inviable su adopción en sectores regulados o decisiones corporativas sensibles sin supervisión humana.
«La confianza en la IA se está convirtiendo en un requisito empresarial, y no solamente en una consideración tecnológica. A medida que las organizaciones en toda América Latina escalan el uso de la IA, aquellas que fortalezcan su gobernanza, sus bases de datos y la explicabilidad estarán mejor posicionadas para convertir la IA en valor empresarial medible» explicó Mario Ulloa, Country Lead de SAS México.
En esta línea, Bryan Harris, CTO de SAS, puntualizó:«Cuando la IA funciona, su impacto es extraordinario. Sin embargo, está ampliamente documentado que los agentes de IA más avanzados pueden presentar tasas de error superiores al 25% en tareas complejas, lo cual es inaceptable en entornos donde las decisiones son críticas. Para lograr precisión y consistencia, las organizaciones deben incorporar experiencia del mundo real y conocimiento del dominio empresarial en los flujos de trabajo agénticos, al mismo tiempo que mantienen a las personas en el centro de la gobernanza y la supervisión. Aquellas que logren ambas cosas cerrarán la brecha de confianza y obtendrán una ventaja competitiva en el mercado»
Solo el 17,5% de las organizaciones cuenta con bases de datos optimizadas 🗄️⚡🎯
Uno de los mayores hallazgos del reporte demuestra que el problema no reside en los algoritmos, sino en los cimientos sobre los que operan:
- Infraestructuras obsoletas: Apenas el 17,5% de las empresas posee una infraestructura de datos madura y totalmente optimizada para soportar las exigencias de la IA agéntica.
- Multiplicador de resultados: Aquellas compañías con bases de datos optimizadas tienen cuatro veces más probabilidades de lograr un ROI sólido y seis veces más probabilidades de cumplir con los estándares de calidad y auditoría indispensables.
- Ampliación de la brecha: Las organizaciones con prácticas maduras obtienen 1,85 veces mayores beneficios en 13 indicadores de negocio clave (incluyendo incremento de ingresos, eficiencia en costos y satisfacción del cliente), y el 85% de estos líderes está aumentando su presupuesto en IA confiable en más de un 10% anual.
«A medida que la IA se vuelve más autónoma, las organizaciones enfrentan un nuevo desafío, y es el de mantener la confianza en sistemas que las personas no comprenden completamente. Nuestros hallazgos muestran que una mayor supervisión, explicabilidad, rendición de cuentas y bases de datos sólidas se están convirtiendo en requisitos indispensables para escalar exitosamente la IA»
Chris Marshall,
vicepresidente de IDC.
Los 5 pilares para evaluar una IA confiable 📋🛡️✅
El informe evaluó a las empresas sobre una escala de 100 puntos, catalogando como «líderes en IA confiable» a aquellas que obtuvieron una calificación promedio de 80 puntos o más a partir de cinco criterios esenciales:
- Calidad y gobernanza de los datos: Limpieza, actualización y arquitectura sólida de la información fuente.
- Gobernanza y supervisión de modelos: Monitoreo constante del desempeño y prevención de sesgos.
- Explicabilidad y equidad: Algoritmos transparentes que documentan de manera comprensible el porqué de cada decisión.
- Política de IA responsable: Protocolos éticos, resguardo de privacidad y cumplimiento regulatorio.
- Auditoría y rendición de cuentas: Trazabilidad clara para asignar responsabilidades humanas frente a cualquier desvío.
Adoptar la inteligencia artificial sin perder de vista el juicio ético ni la centralidad de las personas es el verdadero motor de la competitividad contemporánea. Fomentar una cultura corporativa que priorice datos limpios, transparencia algorítmica y gobernanza responsable nutre un estilo de vida profesional visionario, analítico, seguro y profundamente comprometido con el progreso tecnológico de Costa Rica y América Latina.
Acerca de
SAS es el líder mundial en datos e IA. Con el software de SAS y las soluciones específicas por industria, las organizaciones transforman los datos en decisiones confiables. SAS le da THE POWER TO KNOW®.
SAS y todos los demás nombres de productos o servicios de SAS Institute Inc. son marcas registradas o marcas comerciales de SAS Institute Inc. en EE.UU. y otros países. ® indica que está registrado en los Estados Unidos. Otros nombres de marcas y productos son marcas comerciales de sus respectivas compañías. Copyright © 2024 SAS Institute Inc. Todos los derechos reservados.
