Virtuální piano pomocí technik zpracování obrazu
Virtual piano using image processing
Typ dokumentu
diplomová prácemaster thesis
Autor
Jiří Hanuš
Vedoucí práce
Nováček Tomáš
Oponent práce
Schovánková Klára
Studijní obor
Znalostní inženýrstvíStudijní program
Informatika 2010Instituce přidělující hodnost
katedra aplikované matematikyPráva
A university thesis is a work protected by the Copyright Act. Extracts, copies and transcripts of the thesis are allowed for personal use only and at one?s own expense. The use of thesis should be in compliance with the Copyright Act http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf and the citation ethics http://knihovny.cvut.cz/vychova/vskp.htmlVysokoškolská závěrečná práce je dílo chráněné autorským zákonem. Je možné pořizovat z něj na své náklady a pro svoji osobní potřebu výpisy, opisy a rozmnoženiny. Jeho využití musí být v souladu s autorským zákonem http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf a citační etikou http://knihovny.cvut.cz/vychova/vskp.html
Metadata
Zobrazit celý záznamAbstrakt
S vzestupem nových technologií, digitalizace je jedna z cest, jak ušetřit peníze, čas a zároveň zefektivňovat práci. Jedna z možností digitalizace je také převedení hudebních nástrojů do jejich virtuální podoby. V této práci jsem nejprve shrnul současnou podobu aktuálních technik vytvoření virtuálního piana a také virtuálních klávesnic obecně. Popsal jsem techniky rozpoznávání ruky, prstů, gest a také různé přístupy snímacích zařízení. Dále jsem v práci porovnal dva různé přístupy rozpoznávání gest rukou a prstů pro vytvoření virtuálního piana. První přístup je otestován pomocí technik zpracování obrazu z RGB kamery. Druhý přístup je pomocí Leap Motion Controller, což je optický modul pro sledování pohybu rukou. Dále jsem popsal výhody a nedostatky těchto přístupů a experimentálně změřil úspěšnost. Pro rozpoznání pozic prstů a predikci stisku kláves na piánu využívám hluboké konvoluční neuronové síť (CNN), Stereo IR 170 Camera Module od firmy Leap Motion a další knihovny jazyka Python s předtrénovanými modely. Na závěr předkládám software virtuálního piána pomocí jedné ze zmíněných technik. Software umožňuje uložit notový zápis hrané hudby do formátu MIDI. With the rise of new technologies, digitalization is one of the ways how to save money, time and make work more efficient. One of the possible goals of digitalization is conversion of musical instruments into their virtual form. In this work I summarized the state-of-the-art and also provided an analysis of the different approaches about creating virtual piano and virtual keyboards in general. Few techniques how hand and and finger gesture recognition is done nowadays are also described in this work as well as different approaches of several controllers. Further, I compared two different approaches to hand and finger detection in order to create the virtual piano. One way is making virtual piano using only RGB camera. Second way is using Leap Motion Controller, which is an optical hand tracking module that captures movement of your hands. Further, I described advantages and disadvantages of these approaches and experimentally tested the accuracy. In the thesis, in order to recognize finger location and predict tapping on the piano keys I am using deep convolutional neural networks (CNN), Stereo IR 170 Camera Module by Leap Motion and other Python libraries with pretrained models. In the end, I provided a virtual piano software using one of these techniques which is able save output of the piano to a MIDI file.
Kolekce
- Diplomové práce - 18105 [164]