Paralelní implementace dynamického naivního Bayesovského klasifikátoru

Abstract

Dynamický naivni Bayesovský klasifikátor (DNBC) nacházi využiti v mnoha oblastech, napřiklad při rozpoznáváni hlasu, pisma, nebo při předpovidáni počasi. DNBC je rozšiřenim skrytého Markovského modelu tim, že pod-poruje vice pozorovaných proměnných. Předpokládá se, že tyto proměnné jsou vzájemně statisticky nezávislé. Tento předpoklad značně zjednodušuje výpočty a nedocházi tak k jevu, který je znamý jako prokleti dimenzionatily. Klasifikátor byl naimplementován v programovacim jazyce Scala, nad platfor-mou Apache Spark. Diky technologii Apache Spark je možné implementaci paralelizovat pomoci Map Reduce paradigmatu. S touto paralelni implemen-taci se mi podařilo dosáhnout dvojnásobného zrychleni při využiti 15 pro-cesorových jader. Demonstroval jsem, že zrychleni lze dosáhnout nejenom vyššim počtem jader, ale i vyššim počtem výpočetnich uzlů v clusteru.

Dynamic naive Bayesian classifier (DNBC) has many applications, such as in speech recognition, handwriting recognition or weather prediction. DNBC viiextends a hidden Markov model by supporting multiple observed variables. It is assumed that these variables are mutually statistically independent. This assumption greatly simplifies computations and a phenomenon called curse of dimensionality does not occur. I have implemented the classifier in Scala language on top of Apache Spark. The implementation can be parallelized by using Map Reduce paradigm. I have managed to double the speed up when using 15 processor cores. I have further demonstrated, that the speed up can be achieved not only by increasing the number of cores, but also by increasing the number of machines in a cluster.