Aproximace v logistické regresi

Abstract

Logistická regrese je klasifikační metoda používaná při strojovém zpracování dat. Tato práce se zabývá optimalizací Bayesovského odhadu parametrů logistického modelu pomocí Laplaceovské aproximace. Dosavadní metody většinou spoléhají na suboptimální Laplaceovské aproximace. Tato práce jde ještě o krok dále. Zkoumá dopad přesnější aproximace na kvalitu odhadu. Výsledky výpočetně náročných optimalizací jsou zde porovnány s tradičními optimalizacemi, jež jsou sice výpočetně jednodušší, ale také méně přesné.

Logistic regression is a classification method used in machine data processing. This thesis deals with the optimization of the Bayesian estimate of the parameters of the logistic model using Laplace approximation. The state-of-the-art methods usually rely on suboptimal Laplace-type approximations. This thesis goes one step further. It investigates the impact of a more precise approximation on the estimation quality. The results obtained by computationally intensive optimization are compared with the traditional less intensive but also more imprecise.