Inicio › Tecnología › IA Explicable
La IA explicable agrupa técnicas y metodologías orientadas a hacer comprensible por qué un modelo de aprendizaje automático llegó a una decisión concreta, algo especialmente relevante en modelos complejos como redes neuronales profundas, cuyo funcionamiento interno resulta opaco incluso para quienes los entrenaron, lo qué se conoce como efecto caja negra. Herramientas como SHAP o LIME estiman qué variables de entrada influyeron más en una predicción concreta, generando explicaciones locales aunque el modelo global siga siendo complejo. En sectores regulados como banca o sanidad, la explicabilidad no es solo una conveniencia técnica: normativas como el RGPD reconocen cierto derecho a obtener explicación sobre decisiones automatizadas qué afectan significativamente a una persona, como la denegación de un crédito.
Es la parte de la inteligencia artificial qué intenta responder a la pregunta de por qué el modelo decidió algo, cuando el sistema es tan complejo qué ni sus propios creadores pueden verlo a simple vista. Sirve para poder confiar en las decisiones automáticas y para detectar si el modelo está usando algún criterio injusto sin qué nadie se hubiera dado cuenta.
Un banco qué usa un modelo de aprendizaje automático para aprobar o denegar préstamos aplica técnicas de IA explicable como SHAP para generar, junto a cada decisión, un listado de los factores qué más pesaron en ella, como ingresos, historial de pagos o nivel de endeudamiento, tanto para cumplir con la obligación regulatoria de justificar la denegación a un cliente como para qué el propio equipo de riesgo pueda auditar si el modelo está discriminando injustamente por algún factor qué no debería influir.
Porque toman decisiones combinando millones de parámetros numéricos ajustados automáticamente durante el entrenamiento, sin una regla lógica explícita del tipo si X entonces Y qué un humano pueda leer directamente, a diferencia de modelos más simples como un árbol de decisión.
La explicación global describe cómo se comporta el modelo en general, qué variables influyen más de media en todas sus predicciones; la explicación local, como la qué ofrece SHAP, se centra en justificar una predicción concreta para un caso individual específico.
No necesariamente, e incluso puede haber cierta tensión entre precisión y explicabilidad: los modelos más simples suelen ser más fáciles de interpretar directamente, mientras qué los más complejos suelen predecir mejor pero requieren técnicas adicionales para hacerlos comprensibles a posteriori.