Automatizace testování softwaru na různých verzích platformy Apache Spark

Abstract

Práce se zabývá automatizací testování distribuovaného softwaru na platofrmě Apache Spark se zaměřením na chyby vstupně-výstupních formátů způsobené odlišností různých verzí komponent ekosystému Apache Hadoop. Teoretická část se věnuje ekosystému Apache Hadoop a jeho komponentám s důrazem na Apache Spark a datové formáty. V praktické části je navržen a implementován nástroj pro automatické testování distribuovaného softwaru založeného na platformě Apache Spark. Implementovaný nástroj automaticky spouští nakonfigurovaný Hadoop cluster a na základě uživatelem dodané konfigurace spouští podmnožinu definovaných testů. Nástroj je implementován ve skriptovacím jazyce bash. Hadoop cluster je vytvořen pomocí technologie VirtualBox.

The thesis deals with automation of testing of distributed software on Apache Spark with focus on input-output format errors caused by different versions of Apache Hadoop ecosystem components. The theoretical part deals with the Apache Hadoop ecosystem and its components with an emphasis on Apache Spark and data formats. In the practical part a tool for automatic testing of distributed software is designed and implemented, based on Apache Spark platform. The implemented tool automatically runs the configured Hadoop cluster along with a subset of predefined tests based on the user supplied configuration. the tool is implemented in bash scripting language. Hadoop cluster is created using VirtualBox technology.