Kooperativní teorie her pro úlohy strojového učení

Abstract

S popularizací komplikovaných metod strojového učení, tvořících komplexní a netransparentní modely bez možnosti jejich intuitivniho pochopení, sílí také požadavky po vytvoření interpretačních technik, které by pomohly s vysvětlením toho, jak takové modely dospěly ke svým závěrům. Jedna z nejpoužívanějších metod pro interpretaci, a střed zájmu této práce, je postavená na Shapleyho hodnotě z koaliční teorie her. Na následujících stránkách prozkoumáme teoretické základy této hodnoty a porovnáme její výsledky k jinému konceptu teorie her, Banzhafově hodnotě, a to jak z teoretického, tak praktického hlediska. Po důkladném studiu vlastností těchto hodnot budeme schopni navrhnout nový způsob interpretace kategorických proměnných, a navíc na jednoduchém přikladu ukázat, proč může současný způsob vést k chybným výsledkům. V poslední kapitole pak detailně prozkoumáme data pocházející z měření mozkové aktivity a s pomocí Shapleyho hodnoty odhalíme zajímavá spojení mezi jednotlivými oblastmi lidského mozku.

The recent risc in popularity of complex machine learning models trained by numerical optimization has led to an increased interest in interpretation methods capable of explaining the decisions reached by those models. One of the most common interpretation method, and the centerpiece of this thesis, is based on the Shapley value from coalitional game theory. In this text we study its theoretical foundations from a number of perspectives and compare its results, both theoretically and on an applied example, to a different solution concept, the Banzhaf value. We propose a new way of interpreting categorical variables built upon axioms of coalitional game theory and show on a counterexample why the current way leads to wrong results. Finally, we end this text with an extensive analysis of a dataset containing measurements of brain activity where we use the Shapley value to discover interesting connections among the brain regions.