Český korpus pro velký jazykový model
Czech Foundational Large Language Model Corpus
dc.contributor.advisor | Šedivý Jan | |
dc.contributor.author | Tommaso Gargiani | |
dc.date.accessioned | 2024-06-19T09:53:23Z | |
dc.date.available | 2024-06-19T09:53:23Z | |
dc.date.issued | 2024-06-18 | |
dc.identifier | KOS-1240440685205 | |
dc.identifier.uri | http://hdl.handle.net/10467/115673 | |
dc.description.abstract | Tato práce představuje vývoj největšího českého korpusu pro trénování velkých jazykových modelů, jenž obsahuje 167 miliard tokenů. Jeho rozmanité zdroje dat zajišťují komplexní pokrytí českého jazyka. Ke zvýšení kvality našeho korpusu byly použity důkladné procedury čištění, filtrace a deduplikace. Natrénovali jsme také několik jazykových modelů na podmnožině korpusu, abychom demonstrovali jeho potenciál stát se pevným základem pro trénování českého velkého jazykového modelu. | cze |
dc.description.abstract | This thesis presents the development of the largest Czech corpus for training large language models, comprising 167 billion tokens. Its diverse data sources ensure comprehensive coverage of the Czech language. Rigorous cleaning, filtering and deduplication procedures were employed to enhance the quality of our corpus. We also train several language models on a subset of the corpus to demonstrate its potential for becoming a solid foundation for training a Czech large language model. | eng |
dc.publisher | České vysoké učení technické v Praze. Vypočetní a informační centrum. | cze |
dc.publisher | Czech Technical University in Prague. Computing and Information Centre. | eng |
dc.rights | A university thesis is a work protected by the Copyright Act. Extracts, copies and transcripts of the thesis are allowed for personal use only and at one?s own expense. The use of thesis should be in compliance with the Copyright Act http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf and the citation ethics http://knihovny.cvut.cz/vychova/vskp.html | eng |
dc.rights | Vysokoškolská závěrečná práce je dílo chráněné autorským zákonem. Je možné pořizovat z něj na své náklady a pro svoji osobní potřebu výpisy, opisy a rozmnoženiny. Jeho využití musí být v souladu s autorským zákonem http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf a citační etikou http://knihovny.cvut.cz/vychova/vskp.html | cze |
dc.subject | český korpus | cze |
dc.subject | velký jazykový model | cze |
dc.subject | dataset | cze |
dc.subject | zpracování přirozeného jazyka | cze |
dc.subject | Czech corpus | eng |
dc.subject | large language model | eng |
dc.subject | dataset | eng |
dc.subject | natural language processing | eng |
dc.title | Český korpus pro velký jazykový model | cze |
dc.title | Czech Foundational Large Language Model Corpus | eng |
dc.type | diplomová práce | cze |
dc.type | master thesis | eng |
dc.contributor.referee | Král Luboš | |
theses.degree.discipline | Datové vědy | cze |
theses.degree.grantor | katedra počítačů | cze |
theses.degree.programme | Otevřená informatika | cze |
Soubory tohoto záznamu
Tento záznam se objevuje v následujících kolekcích
-
Diplomové práce - 13136 [892]