Využití architektury transformeru pro predikci finančních časových řad na forexovém trhu

Abstract

Tato bakalářská práce se zabývá implementací dvou modelů hlubokého učení Transformer a Autoformer pro predikci časových řad, konkrétně předpovídání cen na trhu s devizami (Forex). Oba modely byly vyvinuty ručně v programovacím jazyku Python a knihovně TensorFlow. Součástí procesu bylo využití vlastností časových řad a zpracování signálu. Data z Forexového sloužila jako vstupní datasety, ke kterým byly přidány technické indikátory, aby modely získaly více informací, z nichž by se mohly učit. Navíc byly použity techniky vyhlazování z oblasti zpracování signálu, aby se v časových řadách snížil šum. Modely byly trénovány na predikci cen, přičemž jejich výstupy byly transformovány do domény binární klasifikace, aby se určilo, jak se cena změnila v průběhu sledovaného časového období. Výkonnost modelů byla porovnána mezi sebou a také s dvěma základními modely. Veškerý kód s technikami použitými v této práci je veřejně dostupný na GitHubu na adrese https://github.com/pribylr/bp/.

This thesis presents the implementation of two deep learning models--Transformer and Autoformerfor time series forecasting, specifically predicting foreign exchange (Forex) prices. Both models were developed from scratch using Python and TensorFlow. Part of the process was to utilize time series properties and signal processing techniques to improve the accuracy of the predictions. Data from the Forex market served as the input datasets, and technical indicators, were added to provide more information for the models to learn from. In addition, data smoothing techniques from the signal processing field were applied to reduce noise in the time series. The models were trained to predict prices, and their outputs were transformed into the binary classification domain to determine how the price changed during the observed time period. The performance of the models was compared to each other and to two basic baseline models. All code with the techniques used in this work is publicly available on GitHub at https://github.com/pribylr/bp/.