Prohlížení katedry dle předmětu "attention"
Zobrazují se záznamy 1-1 z 1
-
Studium lineárního self-attention mechanismu v transformerech
; Vedoucí práce: Kovalenko Alexander; Oponent práce: Kordík Pavel
(České vysoké učení technické v Praze. Vypočetní a informační centrum.Czech Technical University in Prague. Computing and Information Centre., 2022-06-04)Vzhledem k tomu, že kvadratická složitost mechanizmu vnímaní architektury Transformer způsobuje velké náklady na zpracování dlouhých posloupností, cílem dané práce je prozkoumat lineární varianty architektury a implementovat ...