Virtuální piano pomocí technik zpracování obrazu

Abstract

S vzestupem nových technologií, digitalizace je jedna z cest, jak ušetřit peníze, čas a zároveň zefektivňovat práci. Jedna z možností digitalizace je také převedení hudebních nástrojů do jejich virtuální podoby. V této práci jsem nejprve shrnul současnou podobu aktuálních technik vytvoření virtuálního piana a také virtuálních klávesnic obecně. Popsal jsem techniky rozpoznávání ruky, prstů, gest a také různé přístupy snímacích zařízení. Dále jsem v práci porovnal dva různé přístupy rozpoznávání gest rukou a prstů pro vytvoření virtuálního piana. První přístup je otestován pomocí technik zpracování obrazu z RGB kamery. Druhý přístup je pomocí Leap Motion Controller, což je optický modul pro sledování pohybu rukou. Dále jsem popsal výhody a nedostatky těchto přístupů a experimentálně změřil úspěšnost. Pro rozpoznání pozic prstů a predikci stisku kláves na piánu využívám hluboké konvoluční neuronové síť (CNN), Stereo IR 170 Camera Module od firmy Leap Motion a další knihovny jazyka Python s předtrénovanými modely. Na závěr předkládám software virtuálního piána pomocí jedné ze zmíněných technik. Software umožňuje uložit notový zápis hrané hudby do formátu MIDI.

With the rise of new technologies, digitalization is one of the ways how to save money, time and make work more efficient. One of the possible goals of digitalization is conversion of musical instruments into their virtual form. In this work I summarized the state-of-the-art and also provided an analysis of the different approaches about creating virtual piano and virtual keyboards in general. Few techniques how hand and and finger gesture recognition is done nowadays are also described in this work as well as different approaches of several controllers. Further, I compared two different approaches to hand and finger detection in order to create the virtual piano. One way is making virtual piano using only RGB camera. Second way is using Leap Motion Controller, which is an optical hand tracking module that captures movement of your hands. Further, I described advantages and disadvantages of these approaches and experimentally tested the accuracy. In the thesis, in order to recognize finger location and predict tapping on the piano keys I am using deep convolutional neural networks (CNN), Stereo IR 170 Camera Module by Leap Motion and other Python libraries with pretrained models. In the end, I provided a virtual piano software using one of these techniques which is able save output of the piano to a MIDI file.