Překlady sekvencí a jejich aplikace

Abstract

Překlad sekvencí je klíčovou úlohou v mnoha oblastech, zejména v oblasti zpracování přirozeného jazyka. Tato bakalářská práce se zabývá překladem sekvencí se zaměřením na překlad staroegyptských hieroglyfů. Jádrem studie je aplikace různých architektur neuronových sítí, konkrétně rekurentních neuronových sítí a transformerových modelů, na překlad sekvencí. Hlavní důraz je kladen na dvě dílčí úlohy: rozdělení hieroglyfického textu na jednotlivá slova a na transliteraci tohoto textu. Práce obsahuje podrobné popisy modelů, jejich hyperparametrů a dosažených výsledků na základě různých metrik. Výsledky ukazují, že transformerové modely zvládají řešit problém překladu hieroglyfů efektivně, zatímco RNN s ním mají problémy. Použití transformerů na tento problém nabízí poznatky pro další výzkum a vývoj v oblasti automatizovaného překladu jazyků s malým množstvím zdrojů.

Sequence translation is a crucial task across many fields, particularly in Natural Language Processing. This bachelor's thesis explores sequence translation with a focus on translating ancient Egyptian hieroglyphs. The core of the study involves applying neural network architectures, specifically Recurrent Neural Networks and Transformer models, to sequence translation tasks. The primary focus is on two sub-tasks: word separation within hieroglyphic text and the automated transliteration of this text. The thesis includes detailed descriptions of the models, their hyperparameters, and their performance based on various metrics. The results indicate that while traditional RNNs faced challenges, Transformer models effectively addressed the problems of hieroglyph translation, offering insights for further research and development in automated translation of low-resource languages.