Využití HyperNEAT kódování pro hybridní umělé neuronové sítě

Abstract

V posledních letech byl zaznamenán významný posun ve vývoji hybridních modulárních systémů, s cílem poskytnout elegantní řešení pro rozličné problémy z oblasti umělé inteligence. Tyto hybridní umělé neuronové sítě svou využitelností předčí umělé neuronové sítě v mnoha oblastech výzkumu umělého života, proto jsou v posledních letech předmětem studijí vědců z této domény. K tomu, aby hybridní systém fungoval správně, je potřeba nalézt vhodnou a pokud možno optimální topologii propojení uzlů v systému. Na optimalizaci topologie umělých neuronových sítí existuje nesčetný počet optimalizačních algoritmů, ale jen část z nich byla navrhnuta tak, aby fungovala i pro hybridní neuronové sítě. Analytická řešení jsou pro optimalizaci výpočetně náročná, a proto se vědci inspirují přírodou a navrhují evoluční optimalizační algoritmy. Algoritmus HyperNEAT ( Hypercube-based Neuro-evolution of Augmented Topologies ) představuje jeden z nejnovějších algoritmů v oblasti neuro-evoluce založené na nepřímém kódování jedince v populaci.

Cílem této diplomové práce je navrhnout a implementovat rozšíření algoritmu HyperNEAT pro hybridní umělé neuronové systémy. Algoritmus bude implementován tím způsobem, aby jej bylo možné propojit s frameworkem hybridních umělých neuronových sítí, který navrhl a implementoval vedoucí této diplomové práce Ing. Jaroslav Vítků v spolupráci s doc. Pavlem Nahodilem z katedry kybernetiky Fakulty Elektrotechnické ČVUT v Praze. Implementovaný algoritmus bude ale zároveň plně funkční pro libovolnou hybridní umělou neuronovou síť s příslušnou evaluační funkcí definující optimální kvalitu zapojení dané hybridní neuronové sítě v konkrétním prostředí.

In the recent years there has been significant upturn in the development of hybrid modular systems, with the emphasis on solving various problems in the Artificial Intelligence domain. These hybrid neural network systems outperform artificial neural networks in distinct areas of the computer science research. In order for these systems to function properly, it is important to interconnect the system's nodes in valid, or in the best case optimal topology. Large amount of algorithms for optimization of the artificial neural networks exist, but not many operate, or have been modified to operate on these hybrid modular systems. The analytical solutions, are computationaly complex and therefore scientists design and implement evolutionary optimization algorithms to achieve satisfactory results. The novel algorithm, representing the state of the art of the indirect encoding-based neuro-evolutionary algorithms is HyperNEAT algorithm.

The aim of this thesis is to design and implement extension of the HyperNEAT algorithm for evolution of the hybrid artificial neural network systems. The algorithm will be mainly designed to serve the systems developed using the framework of hybrid neural network systems proposed by my thesis supervisor, Ing. Jaroslav Vitku in cooperation with Prof. Assoc. Pavel Nahodil from the Faculty of Electrical Engineering of CTU in Prague. The algorithm will also operate with arbitrary hybrid modular system with respective evaluation function, which describes the performance of the system depending on the evolved topology of the given network.