En el sector de la salud, la inteligencia artificial (IA) está revolucionando la industria a medida que los investigadores comparten avances y los proveedores se apresuran a comercializar algoritmos avanzados en diversos casos de uso. Sin embargo, la falta de transparencia en las decisiones de la IA, conocida como "black box", plantea desafíos en términos de confianza y aceptación. Muchos creen que si los proveedores no pueden determinar cómo la IA genera sus resultados, es difícil confiar en sus conclusiones. Ante esto, surge la necesidad de desarrollar algoritmos de IA "explicables" que permitan comprender y confiar en los resultados generados por la máquina. Se han propuesto diversas técnicas de IA explicables en el contexto de la salud, como la generación de mapas de equivalencia que ayudan a explicar el razonamiento detrás de las decisiones de la IA. Aunque existen éxitos en IA explicables, aún sigue en debate si estas herramientas resuelven efectivamente el problema de la "black box". Además, existe una discusión en curso sobre la responsabilidad y la responsabilidad en caso de fallos de los sistemas de IA en el ámbito de la salud. A pesar de los avances en IA explicables, algunos investigadores señalan limitaciones en los métodos actuales de explication. En definitiva, comprender las complejidades y matices en torno al uso de algoritmos de "black box" y el papel de la IA explicativa es fundamental a medida que los actores del sector buscan navegar por el cambiante panorama de la IA en la salud.