Využití neuronových sítí pro řešení parciálních diferenciálních rovnic

Abstract

Tato práce se zabývala využitím neuronových sítí na řešení diferenciálních rovnic. Je zmíněn základní popis plně propojených sítí a jejich trénování. Také jsou popsány neuronové sítě, do kterých se zakomponovává fyzika, zejména je popsán způsob zakomponování zrkze ztrátovou funkci, který je v této práci použit. V práci je popsáno, jak lze v Pythonu pomocí balíčků Tensorflow a Keras implementovat třídy pro plně propojenou síť na řešení Poissonovy rovnice a rovnice vedení tepla v jedné dimenzi a jak lze jednoduše počítat derivace různými funkcemi z balíčku Tensorflow, což je potřeba pro trénování sítě. Rychle je zmíněna úloha na klasifikaci obrázků z MNIST a CIFAR-100 databáze plně propojenými sítěmi. Poté je porovnáno řešení zmíněných rovnic plně propojenými neuronovými sítěmi a numerickými metodami, konkrétně metodou konečných diferencí a řešení vzniklých soustav rovnic Rungovou-Kuttovou metodou. Také jsou prozkoumány různá nastavení sítí a jejich vliv na řešení zmíněných diferencíálních rovnic.

This thesis deals with use of neural networks for solving differential equations. A basic description of fully connected neural networks and their training is mentioned. Neural networks, into which physics are embed, are also described, in particular is described a way of embeding them through the loss function, which is the way used in this thesis. In the thesis it's described how to implement classes for fully connected neural network for solving the Poisson's equation and heat equation in one dimension using Python packages Tensorflow and Keras and how derivatives can be calculated using various functions from Tensorflow, which is needed for training the network. A classification problem of classifying pictures from the MNIST and CIFAR-100 database using fully connected networks is briefly mentioned. Then a comparison is made between solving the mentioned equations using fully connected neural networks and numerical methods, specifically using the finite difference method and solving the equations that have arisen with the Runge-Kutta method. Various settings of the networks and their effect on the solutions of the mentioned diferential equations is examined.