Zpracování přirozeného jazyka v medicíně pomocí retrieval augmented generation
Natural language processing in medicine using retrieval augmented generation
Typ dokumentu
diplomová prácemaster thesis
Autor
Štěpán Bořek
Vedoucí práce
Novák Daniel
Oponent práce
Gabrhelík Roman
Studijní obor
Softwarové inženýrstvíStudijní program
Otevřená informatikaInstituce přidělující hodnost
katedra počítačůPráva
A university thesis is a work protected by the Copyright Act. Extracts, copies and transcripts of the thesis are allowed for personal use only and at one?s own expense. The use of thesis should be in compliance with the Copyright Act http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf and the citation ethics http://knihovny.cvut.cz/vychova/vskp.htmlVysokoškolská závěrečná práce je dílo chráněné autorským zákonem. Je možné pořizovat z něj na své náklady a pro svoji osobní potřebu výpisy, opisy a rozmnoženiny. Jeho využití musí být v souladu s autorským zákonem http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf a citační etikou http://knihovny.cvut.cz/vychova/vskp.html
Metadata
Zobrazit celý záznamAbstrakt
Tato práce se zabývá využitím technologie RAG (retrieval-augmented generation) pro zlepšení odpovědí v rozhovorech mezi adiktology a jejich klienty v aplikaci vyvíjené pro Národní linku pro odvykání, kterou vyvíjí náš výzkumný tým na Fakultě elektrotechnické Českého vysokého učení technického v Praze. Teoretická část této práce zahrnuje analýzu stávajících technik zpracování přirozeného jazyka v oblasti medicíny se zaměřením na jejich silné stránky a omezení. Podrobně je zkoumán proces RAG, včetně získávání, předzpracování, vkládání a vyhledávání dat. V praktické části je nejprve implementováno a testováno proof-of-concept řešení RAG s různými soubory dat, aby se vyhodnotila jeho výkonnost při generování smysluplných a kontextově relevantních odpovědí. Poté je proveden návrh a implementace microservice RAG řešení, přičemž je podrobně popsán technologický soubor, architektura a nasazení. Výsledky při použití interní příručky Národní linky pro odvykání jako znalostní báze ukazují, že systém rozšířený o RAG poskytuje relevantnější odpovědi v 70% případů. Mezi možná budoucí vylepšení patří přenesení embedding modelu na externího poskytovatele GPU pro zvýšení efektivity, kombinace více souborů dat, doladění modelů vyhledávání a generování, a zavedení rozpoznávání a propojování entit. This thesis explores the application of retrieval-augmented generation (RAG) technology to enhance responses in conversations between addiction specialists and their clients in an application developed for Národní linka pro odvykání (The National Quitline), which is being developed by our research team at the Faculty of Electrical Engineering of the Czech Technical University in Prague. The theoretical part of this thesis involves analyzing existing natural language processing techniques in the medical field, focusing on their strengths and limitations. An examination of the RAG process is conducted, including data acquisition, preprocessing, embedding, and retrieval. In the practical part, first, a proof-of-concept RAG solution is implemented and tested with different datasets to evaluate its performance in generating meaningful and contextually relevant responses. Then the design and implementation of a microservice-based RAG solution is done, detailing the technology stack, architecture, and deployment considerations. The results while using an internal guideline of The National Quitline as a knowledgebase indicate that the RAG-enhanced system provides more relevant responses in 70% of cases. Possible future improvements include offloading the embedding model to an external GPU provider for increased efficiency, combining multiple datasets, fine-tuning the retrieval and generation models, and implementing entity recognition and linking.
Kolekce
- Diplomové práce - 13136 [892]