Srovnání přístupů nasazení modelů strojového učení
Survey of ML Model Serving Solutions and criteria for selection thereof
Typ dokumentu
diplomová prácemaster thesis
Autor
Petr Poliak
Vedoucí práce
Ledvinka Martin
Oponent práce
Tůma Vojtěch
Studijní obor
Softwarové inženýrstvíStudijní program
Otevřená informatikaInstituce přidělující hodnost
katedra počítačůPráva
A university thesis is a work protected by the Copyright Act. Extracts, copies and transcripts of the thesis are allowed for personal use only and at one?s own expense. The use of thesis should be in compliance with the Copyright Act http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf and the citation ethics http://knihovny.cvut.cz/vychova/vskp.htmlVysokoškolská závěrečná práce je dílo chráněné autorským zákonem. Je možné pořizovat z něj na své náklady a pro svoji osobní potřebu výpisy, opisy a rozmnoženiny. Jeho využití musí být v souladu s autorským zákonem http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf a citační etikou http://knihovny.cvut.cz/vychova/vskp.html
Metadata
Zobrazit celý záznamAbstrakt
Machine learning operations (provoz strojového učení) je začínající obor softwarového inženýrství. Má za cíl zefektivnit proces vývoje strojového učení od konceptu modelu po jeho nasazení. V této diplomové práci se zaměříme na architektury nasazování modelů strojového učení pro online klasifikaci. Nejprve je čtenáři krátce představen obor machine learning operations a vymezíme zaměření této práce. Poté navrhneme a vysvětlíme čtyři kritéria, která jsou později použitá k popisu a vyhodnocení jednotlivých přístupů nasazování modelů. Dále popíšeme pět různých schémat pro nasazování modelů strojového učení a u každého rozebereme jednotlivá kritéria. Každé schéma má popsanou architekturu a příklad situace, kde by se dalo použít, včetně ukázkové implementace. Dále navrhneme framework pro výběr schématu, které nejlépe vyhovuje situaci pro nasazování modelů. Nakonec poskytneme dvě detailní studie z průmyslu popisující architekturu, implementaci a argumentaci za rozhodnutími, které k danému výsledku vedly. Machine learning operations is an emerging field in software engineering. It aims to streamline the machine learning development process from the model's concept to its application. In this thesis, we focus on machine learning model serving approaches for online inference use cases. First, we provide a brief background for machine learning operations and delineate the situations we consider in this thesis. Then, we propose four criteria used to describe and evaluate the deployment approaches. Next, we identify five different schemes to deploy machine learning models and assess them with regard to the defined criteria. We provide the architectures of the solutions and the use case where they fit along with example implementations. Further, we propose a framework to guide selecting the approach that best fits the use case. Lastly, we provide two industry case studies describing the architecture, implementation, and reasoning behind those decisions.
Kolekce
- Diplomové práce - 13136 [892]