Show simple item record

Memory in Deep Learning



dc.contributor.advisorJanisch Jaromír
dc.contributor.authorTomáš Paleček
dc.date.accessioned2020-09-04T13:53:02Z
dc.date.available2020-09-04T13:53:02Z
dc.date.issued2020-08-27
dc.identifierKOS-960815800205
dc.identifier.urihttp://hdl.handle.net/10467/90020
dc.description.abstractV předkládané práci zkoumáme neuronové sítě využívající pamět, konkrétněji rekurentní neuronové sítě, plastické neuronové sítě a jejich kombinace. Výše zmíněné sítě testujeme v doménách meta-learning a meta-reinforcement learning. V prostředí Binary Sequences, které jsme použili pro testování, je cílem algoritmu zapamatovat si binární vzory, které jsou mu ukázany a následně si je vybavit po tom co je mu ukázána degradovaná verze jednoho z nich. Cílem algoritmu v prostředí Maze je maximalizovat odměnu získanou v bludišti, kde se pozice odměny nachází na jiném míste v každé testované epizodě. V prostředí Binary Sequences dosahovaly plastické neuronové sítě lepších výsledků, než rekurentní neuronové sítě. V prostředí Maze měly oba přístupy srovnatelné výsledky. Pro prostředí Maze, jsme navrhli dva testy, které ukázaly, že plastické sítě zvládají lépe prozkoumávat bludiště, zatímco rekurentní sítě se dokáží lépe přizpůsobit prostředí během jedné epizody. Po kombinaci rekurentní a plastické sítě, výsledná neuronová síť dosahovala horších výsledků v prostředí Binary Sequences a lepších výsledků v prostředí Maze. V posledním experimentu, jsem zkoumali různé modifikace plastických sítí a ukázali jsme jejich přidanou hodnotu.cze
dc.description.abstractIn our work, we study neural networks utilizing memory, more specifically, plastic neural networks, recurrent neural networks, and their combinations. The networks are used in the meta-learning and meta-reinforcement learning domains. In the Binary Sequences environment, the task of the algorithm is to remember binary patterns and reconstruct them upon a presentation of their degraded versions. The goal of the algorithm in the Maze environment is to maximize the reward obtained from finding a reward in the maze, where the position of the reward differs for each episode. In the Binary Sequences environment, the plastic neural networks outperformed the recurrent neural networks. In the Maze environment, the networks achieved similar performance. For the Maze environment, we devised two tests, which show that the plastic neural networks are capable of better exploring the maze, while recurrent neural networks better adapt to the environment during the episode. The combination of plastic and recurrent networks decreases the performance in the Binary Sequences environment, while increasing the performance in the Maze environment. In the last experiment, we investigated the different modifications for the plastic neural networks, and shown their added value to the network.eng
dc.publisherČeské vysoké učení technické v Praze. Vypočetní a informační centrum.cze
dc.publisherCzech Technical University in Prague. Computing and Information Centre.eng
dc.rightsA university thesis is a work protected by the Copyright Act. Extracts, copies and transcripts of the thesis are allowed for personal use only and at one?s own expense. The use of thesis should be in compliance with the Copyright Act http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf and the citation ethics http://knihovny.cvut.cz/vychova/vskp.htmleng
dc.rightsVysokoškolská závěrečná práce je dílo chráněné autorským zákonem. Je možné pořizovat z něj na své náklady a pro svoji osobní potřebu výpisy, opisy a rozmnoženiny. Jeho využití musí být v souladu s autorským zákonem http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf a citační etikou http://knihovny.cvut.cz/vychova/vskp.htmlcze
dc.subjectPamětcze
dc.subjectPlastické neuronové sítěcze
dc.subjectRekurentní neuronové sítěcze
dc.subjectMeta-učenícze
dc.subjectPosilované-meta-učenícze
dc.subjectMemoryeng
dc.subjectPlastic neural networkseng
dc.subjectRecurrent neural networkseng
dc.subjectMeta-learningeng
dc.subjectMeta-reinforcement-learningeng
dc.titlePaměť v hlubokém učenícze
dc.titleMemory in Deep Learningeng
dc.typediplomová prácecze
dc.typemaster thesiseng
dc.contributor.refereeHendrich Jakub
theses.degree.disciplineUmělá inteligencecze
theses.degree.grantorkatedra počítačůcze
theses.degree.programmeOtevřená informatikacze


Files in this item





This item appears in the following Collection(s)

Show simple item record