Visualización e interpretación de redes neuronales convolucionales con Dial-app

Abstract

El Aprendizaje Profundo o Deep Learning basado en redes neuronales convolucionales ha presenciado un gran aumento en su rendimiento y complejidad en esta última década, lo que ha permitido resolver problemas muy complejos de clasificación y segmentación de imágenes Sin embargo, el enorme rendimiento alcanzado por estos sistemas choca con la poca o nula capacidad de los mismos para explicar el porqué de sus decisiones. Este carácter de cajas negras compromete seriamente su aplicabilidad en campos donde los expertos necesitan “entender” las razones del porqué de las decisiones que toma el sistema. Por este motivo, en los últimos años se han desarrollado multitud de técnicas para "abrir" esta caja y visualizar lo que está ocurriendo dentro accediendo a las activaciones de las neuronas en capas intermedias de la red o evaluando las salidas de la misma cuando alteramos la entrada de forma controlada. En este sentido, el objetivo de este TFG es desarrollar un plugin para la herramienta Dial con la finalidad de incorporar funcionalidades de visualización sobre las activaciones de las neuronas.

Deep Learning or Deep Learning based on convolutional neural networks has witnessed a great increase in the performance and complexity of these networks in the last decade, which has made it possible to solve very complex problems of classification and segmentation of images, such as the problem of autonomous driving. However, the enormous performance achieved by these systems collides with their little or no capacity to explain the reasons for their decisions.This character of black boxes seriously compromises their applicability in fields where experts need to "understand" the reasons for the decisions made by the system. For this reason, in recent years a multitude of techniques have been developed to "open" this box and visualize what is happening inside by accessing the activations of neurons in intermediate layers of the network or evaluating its outputs when we alter the network. controlled entry. In this sense, the objective of this TFG is to develop a plugin for the Dial tool in order to incorporate visualization functionalities on the activations of neurons..