Por favor, use este identificador para citar o enlazar este ítem: http://inaoe.repositorioinstitucional.mx/jspui/handle/1009/2523
Representación Relacional para la Transferencia de Conocimiento en Aprendizaje por Refuerzo
Armando Martínez Ruiz
Eduardo Francisco Morales Manzanares
Luis Enrique Sucar Succar
Acceso Abierto
Atribución-NoComercial-SinDerivadas
relational representation
reinforcement learning
transfer learning
object detection
q-learning
Esta tesis introduce un enfoque del aprendizaje por refuerzo que aprovecha el poder de la representación relacional para acelerar el proceso de aprendizaje y mejorar la transferencia de conocimientos a dominios relacionados. El concepto central gira en torno a la idea de que, abstrayendo ciertos atributos del entorno, es posible reducir significativamente la cantidad de datos y el tiempo necesarios para que el agente de aprendizaje alcance un rendimiento competente. La tesis profundiza en los retos fundamentales del aprendizaje por refuerzo, que abarcan los considerables recursos de datos y tiempo necesarios para un aprendizaje eficaz y la limitada capacidad del agente para generalizar sus conocimientos a problemas nuevos y relacionados. Se introduce un enfoque novedoso que emplea la representación relacional, facilitada por un sistema de detección de objetos, para abordar estosretos permitiendo una interpretación más abstracta del entorno a través de las relaciones entre el agente y los objetos del ambiente. Para ilustrar la eficacia de este enfoque, se utiliza la biblioteca Arcade Learning Environment para modelar juegos Atari como ambientes de aprendizaje por refuerzo. Se definen relaciones que representan estados dentro de estos ambientes y se adapta el algoritmo Q-Learning para incorporar representaciones relacionales al proceso de toma de decisiones del agente. Los resultados obtenidos demuestran que este enfoque ofrece un rendimiento comparable al de los metodos existentes, como el algoritmo deep Q-Network. La tesis concluye discutiendo las aplicaciones potenciales de este enfoque más allá de los juegos Atari y destacando las posibilidades de integrar la representación relacional en la construcción de modelos causales para el aprendizaje por refuerzo, ofreciendo un ambiente propicio para investigaciones futuras y progresos en esta área.
This thesis introduces an approach to reinforcement learning that harnesses the power of relational representation to expedite the learning process and enhance knowledge transfer to related domains. The core concept revolves around the notion that by abstracting certain environmental attributes, it is possible to significantly reduce the amount of data and time required for the learning agent to achieve proficiency. The thesis delves into the fundamental challenges of reinforcement learning, which encompass the substantial data and time resources required for effective learning and the agent’s limited capacity to generalize knowledge to novel, related problems. It introduces a novel approach that employs relational representation, facilitated by an object detection system, to address these challenges by enabling a more abstract interpretation of the environment through relationships between the agent and environmental objects. To illustrate this approach’s effectiveness, the Arcade Learning Environment library is used to model Atari games as reinforcement learning environments. Relationships representing states within these environments are defined, and the Q-Learning algorithm is adapted to incorporate relational representations into the agent’s decision-making process. The results obtained demonstrate that this approach yields performance comparable to existing methods, like the deep Q-Network algorithm. The thesis concludes by discussing potential applications of this approach beyond Atari games and high-lighting the possibilities of integrating relational representation into the construction of causal models for reinforcement learning, providing fertile ground for future research and advancement in the field.
Instituto Nacional de Astrofísica, Óptica y Electrónica
2024-04
Tesis de maestría
Español
Estudiantes
Investigadores
Público en general
Martínez Ruiz, A., (2024), Representación Relacional para la Transferencia de Conocimiento en Aprendizaje por Refuerzo, Tesis de Maestría, Instituto Nacional de Astrofísica, Óptica y Electrónica
OTRAS ESPECIALIDADES TECNOLÓGICAS
Versión aceptada
acceptedVersion - Versión aceptada
Aparece en las colecciones: Maestría en Ciencias Computacionales

Cargar archivos:


Fichero Tamaño Formato  
MARTINEZRA_MCC.pdf1.67 MBAdobe PDFVisualizar/Abrir