Učení pravidel spojení v kortikálních vizuálních sítí pomocí RNN

Abstract

Tato práce rozšiřuje rekurentní neuronovou síť primární zrakové kůry o modul pro učení spojení. Původní model se učí váhy pro všechna laterální spojení. Učí se tedy kvadratický počet volných parametrů. Do modelu jsme přidali funkční vlastnosti všech neuronů a malou neuronovou síť, která na základě těchto vlastností přiřazuje váhy. Naše řešení snižuje počet volných parametrů z O(n^2) na O(n). Také jsme ukázali, že naučené váhy jsou vysoké pro neurony s podobnými vlastnostmi, jako je orientace nebo fáze, což je v souladu s biologickou strukturou zrakové kůry.

This thesis extends a multi-stage recurrent neural network of the primary visual cortex with a connection learning module. The original model learns weights for all lateral connections, which yields a quadratic number of free parameters. We have given the model functional properties of all neurons and a small DNN, which assigns weights based on these properties. Our solution reduces the number of free parameters from O(n^2) to O(n). We also show that the learned weights are high for neurons with similar properties like orientation or phase, which is consistent with the biological structure of the visual cortex.