Por favor, use este identificador para citar o enlazar este ítem:
http://inaoe.repositorioinstitucional.mx/jspui/handle/1009/2161| Deep Representation Learning with Genetic Programming | |
| Lino Alberto Rodriguez Coayahuitl | |
| Hugo Jair Escalante Balderas ALICIA MORALES REYES | |
| Acceso Abierto | |
| Atribución-NoComercial-SinDerivadas | |
| Machine learning Evolutionary computation Deep learning Genetic Programming Autoencoder Image processing. | |
| In this thesis, we propose the development of a new Deep Learning (DL) model based on the Genetic Programming (GP) framework. Although DL is typically considered a machine learning (ML) field solely concerned with certain class of artificial neural networks (ANNs), in this thesis we approach DL as a paradigm shift, where the two classical stages of a ML workflow, i.e. feature extraction and prediction, are fusioned in a single ML algorithm, represented by an unified pipeline composed of non-linear transformations. Our literature review, that revolves around recent efforts from the research community at developing new DL architectures that depart from the classical ANN-based models, supports our point of view. As result from our research, we propose two GP-based DL models, one for unsupervised learning and another for supervised learning. The unsupervised learning model consists in a GP framework aimed at evolving autoencoder algorithms. To the best of the author’s knowledge, this is the first time autoencoder algorithms are generated though a ML model other than ANNs. The performance obtained by the evolved autoencoders is comparable to the performance of deep networks proposed ten years ago; nevertheless, we consider the GP framework more general than that of ANNs, due to the fact that GP searchs for the entire solution’s structure, whereas in the ANNs framework only the weights are optimized, hence the relevance of this result. En esta tesis se propone el desarrollo de un nuevo modelo de aprendizaje profundo basado en el entorno de trabajo de Programación Genética (PG). Aunque el aprendizaje profundo es normalmente considerado una área concerniente exclusivamente al estudio de cierto de tipo de redes neuronales artificiales, en esta tesis se aborda el aprendizaje profundo como un cambio de paradigma, en donde las dos etapas clásicas de una solución basada en aprendizaje maquina, i.e. la extracción de características y la predicción, se fusionan en un solo algoritmo de aprendizaje, representado por una estructura única compuesta por una secuencia de transformaciones no-lineales. La revisión de literatura que se presenta en esta tesis defiende esta nueva perspectiva, al presentar nuevos modelos de aprendizaje profundo propuestos recientemente en la literatura científica, que no basan su implementación en el uso de redes neuronales artificiales. Como resultado de esta investigación, se proponen dos modelos de aprendizaje profundo basados en PG, uno para aprendizaje no supervisado y otro para aprendizaje supervisado. El modelo propuesto para aprendizaje no supervisado consiste en un método basado en PG para la evolución de algoritmos autocodificantes. De acuerdo a la experiencia del autor de esta tesis, esta es la primera vez que algoritmos autocodificantes se obtienen mediante un modelo de aprendizaje maquina distinto al de las redes neuronales artificiales. El rendimiento obtenido por los algoritmos autocodificantes generados mediante PG es comparable a los que obtenían las redes neuronales profundas de hace diez anos; sin embargo, nosotros consideramos que el marco de trabajo de la PG es mas general que el de las redes neuronales artificiales, dado que no solamente se busca un vector de pesos, sino toda la estructura de la solución, y que ahí radica la relevancia de este resultado. | |
| Instituto Nacional de Astrofísica, Óptica y Electrónica | |
| 2020-06 | |
| Tesis de doctorado | |
| Inglés | |
| Estudiantes Investigadores Público en general | |
| Rodríguez Coayahuitl, Lino Alberto., (2020), Deep Representation Learning with Genetic Programming, Tesis de Doctorado, Instituto Nacional de Astrofísica, Óptica y Electrónica. | |
| LENGUAJES DE PROGRAMACIÓN | |
| Versión aceptada | |
| acceptedVersion - Versión aceptada | |
| Aparece en las colecciones: | Doctorado en Ciencias Computacionales |
Cargar archivos:
| Fichero | Tamaño | Formato | |
|---|---|---|---|
| tesiscompleta_RodriguezCoayahuitl_doctorado_CCC.pdf | 3.25 MB | Adobe PDF | Visualizar/Abrir |