Použití jazykových modelů v neautoregresivním neuronovém strojovém překladu
Incorporating Language Models into Non-autoregressive Neural Machine Translation
dc.contributor.advisor | Helcl Jindřich | |
dc.contributor.author | Zdeněk Kasner | |
dc.date.accessioned | 2019-06-13T22:52:39Z | |
dc.date.available | 2019-06-13T22:52:39Z | |
dc.date.issued | 2019-06-13 | |
dc.identifier | KOS-773337367905 | |
dc.identifier.uri | http://hdl.handle.net/10467/83056 | |
dc.description.abstract | V této práci navrhujeme způsob pro zlepšení plynulosti výstupu neautoregresivního modelu pro neuronový strojový překlad. Využíváme k tomu rozšířený model pro počítání skóre během paprskového prohledávání. Skóre vypočítáváme jako lineární kombinaci dílčích skóre pocházejících z n-gramového jazykového modelu a dalších pomocných příznaků. Váhy pro lineární kombinaci určujeme pomocí strukturovaného perceptronu. Pro vyhodnocení rychlosti a kvality překladu trénujeme modely pro tři dvojice jazyků. Výsledky ukazují, že modely s navrženým vylepšením jsou stále dostatečně efektivní z hlediska rychlosti a zároveň dosahují výsledků srovnatelných s autoregresivními modely. | cze |
dc.description.abstract | In order to improve the fluency of a non-autoregressive model for neural machine translation, we propose an extension for the scoring model used during the beam search decoding. We compute the score as a linear combination of feature values, including the score from an n-gram language model and other auxiliary features. We determine the weights of the features using the structured perceptron algorithm. We train the models for three language pairs and evaluate their decoding speed and translation quality. The results show that our proposed models are still efficient in terms of decoding speed while achieving a competitive score relative to autoregressive models. | eng |
dc.publisher | České vysoké učení technické v Praze. Vypočetní a informační centrum. | cze |
dc.publisher | Czech Technical University in Prague. Computing and Information Centre. | eng |
dc.rights | A university thesis is a work protected by the Copyright Act. Extracts, copies and transcripts of the thesis are allowed for personal use only and at one?s own expense. The use of thesis should be in compliance with the Copyright Act http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf and the citation ethics http://knihovny.cvut.cz/vychova/vskp.html | eng |
dc.rights | Vysokoškolská závěrečná práce je dílo chráněné autorským zákonem. Je možné pořizovat z něj na své náklady a pro svoji osobní potřebu výpisy, opisy a rozmnoženiny. Jeho využití musí být v souladu s autorským zákonem http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf a citační etikou http://knihovny.cvut.cz/vychova/vskp.html | cze |
dc.subject | neuronový strojový překlad | cze |
dc.subject | neautoregresivní strojový překlad | cze |
dc.subject | paprskové prohledávání | cze |
dc.subject | jazykový model | cze |
dc.subject | strukturovaný perceptron | cze |
dc.subject | neural machine translation | eng |
dc.subject | non-autoregressive machine translation | eng |
dc.subject | beam search | eng |
dc.subject | language model | eng |
dc.subject | structured perceptron | eng |
dc.title | Použití jazykových modelů v neautoregresivním neuronovém strojovém překladu | cze |
dc.title | Incorporating Language Models into Non-autoregressive Neural Machine Translation | eng |
dc.type | diplomová práce | cze |
dc.type | master thesis | eng |
dc.contributor.referee | Šourek Gustav | |
theses.degree.discipline | Umělá inteligence | cze |
theses.degree.grantor | katedra počítačů | cze |
theses.degree.programme | Otevřená informatika | cze |
Soubory tohoto záznamu
Tento záznam se objevuje v následujících kolekcích
-
Diplomové práce - 13136 [833]