Cuándo y por qué, debe explicar cómo funciona su IA
Resumen.
La IA añade valor al identificar patrones tan complejos que pueden desafiar la comprensión humana. Eso puede crear un problema: la IA puede ser una caja negra, lo que a menudo nos impide responder preguntas cruciales sobre sus operaciones. Eso importa más en algunos casos que en otros. Las empresas deben entender qué significa para la IA ser «explicable» y cuándo es importante poder explicar cómo una IA produce sus resultados. En general, las empresas necesitan una explicación en la IA cuando: 1) la normativa lo exige, 2) es importante para entender cómo utilizar la herramienta, 3) podría mejorar el sistema y 4) puede ayudar a determinar la equidad.
