Generación Automática de Textos con GPT-2

Abstract

El Procesamiento del Lenguaje Natural (PLN) es una de las ramas de la Inteligencia Artificial que más atención ha recibido recientemente. Concretamente, su aplicación en la generación automática de textos ha sido foco de gran cantidad de proyectos, entre los que se incluyen los asistentes de los dispositivos móviles, tales como Alexa, Siri o el Asistente de Google. El objetivo de este proyecto es estudiar una de las herramientas más potentes de este ámbito: el modelo GPT-2 de OpenAI, analizando su funcionamiento, resultados y mejoras, para finalmente construir un pequeño ejemplo ’de juguete’ basado en varias series de libros conocidas a nivel mundial. Para este trabajo se ha utilizado el lenguaje de programación Python, junto con diversas librerías que facilitan la interacción con el modelo.

Natural Language Processing (NLP) is one of the branches of Artificial Intelligence that has received more attention recently. Specifically, it is its application in the automatic text generation that has been the focus of a large number of projects, including assistants for mobile devices, such as Alexa, Siri or the Google Assistant. The objective of this project is to study one of the most powerful tools in this field: the OpenAI GPT-2 model, analyzing its operation, results and improvements, to finally build a small example based on several well-known series of books. For the development of this project, the Python programming language has been used, along with some libraries to ease the interaction with the model.