Deep Learning ¿Cómo explicar las predicciones?

Imagínate que estás en un juicio acusado de un crimen y el encargado de deducir si eres culpable o no es un computador con una fantástica capacidad de cálculo y programado con algoritmos de Deep Learning que usa redes neuronales de docenas de capas intermedias que analizan toda la información documental, las imágenes del crimen y las declaraciones de los testigos. Después de un concienzudo análisis la máquina contesta un escueto sí o no. ¿Sería eso aceptable?

No queremos solo hacer predicciones si no que muchas veces queremos la cadena de razonamiento que acompaña a una decisión. Los sistemas de redes neuronales guardan el conocimiento de un forma nada fácil de interpretar para un ser humano.

Si piensas que el ejemplo del juicio no se te aplicará nunca piensa este otro: te encuentras perfectamente y vas a hacerte un análisis rutinario de sangre y, basándose en las pruebas, en tu historial médico y estudios estadísticos, un sistema de Inteligencia Artificial deduce que sufrirás en breve una enfermedad grave por lo que te recomienda que pases por el quirófano enseguida para extirparte un riñón. ¿Qué harías?

 
Unos investigadores del MIT han publicado un estudio que da un pequeño paso hacia esa dirección, basándose en unos artículos sobre cualidades de distintos tipos de cerveza, de tal forma que el sistema sabe explicar por qué una cerveza es buena o no ¿No es maravilloso encontrar un estudio que aúne dos de mis principales pasiones, la IA y la cerveza?