Bayesovské odhadování parametrů stavových modelů při nedostupné věrohodnostní funkci

Abstract

Stavové modely představují široce používaný formalismus pro popis částečně pozoro-vaných náhodných procesů vyskytujících se např. v biologii, ekonometrii a zpracování signálu. Cílem filtrace je odhadnout sekvenci skrytých stavů, o níž předpokládáme, že vygenerovala sekvenci pozorovaných náhodných veličin. Je-li stavový model navíc para-metrizován statickým parametrem, je nutné ho zahrnout v inferenci. Celý proces se tím podstatně zkomplikuje, a filtrační algoritmy typicky nekonvergují. Až na případ lineár-ního Gaussovského stavového modelu není věrohodnostní funkce dostupná, a inference tak není snadná. Bylo ukázáno, že částicový filtr je možné použít jako nestranný odhad věrohodnosti i v nelineárním modelu. Tento odhad ovšem předpokládá, že model pozo-rování je dán jako hustota pravděpodobnosti. V aplikacích je typicky k dispozici simulace pozorovaných veličin ze skrytých stavů, ale ne vyhodnocení jejich pravděpodobností. Po-kusy o modelování pravděpodobnostního rozdělení těchto pozorování pak často vedou ke kolapsu částicového filtru. Inspirováni technikami Approximate Bayesian Compu-tation (ABC) odvodíme filtr schopný odhadnout věrohodnost i v případech, kdy model pozorování není zadán jako hustota pravděpodobnosti. Vyvinutý algoritmus je nejprve otestován v simulační studii. Následně je aplikován na problém z molekulární biologie, ve kterém se pokusíme modelovat zjednodušený autoregulační systém v prokaryotách.

State-space models (SSMs) are widely used to formalize partially-observed random processes found e.g. in biology, econometrics and signal processing. Given a sequence of observed variables, the interest is to infer a corresponding sequence of latent states assumed to have generated the observations. This procedure is known as filtering. When the SSM is parameterized by a static parameter in addition to the dynamic states, the inference must target both components. The problem then becomes considerably more complex, and the filters typically do not converge. Unless the SSM is linear and Gaussian, its likelihood is intractable, and straightforward inference of the static parameter is not possible. It has been shown that the particle filter can be used as an unbiased estimator of this likelihood even in non-linear models, but the method requires the SSM observation model to be specified as a probability density function. In applications, one is typically in possession of a means to simulate new observations, but not to evaluate their probabilities. Attempts to fit arbitrary probability distributions to the observations typically lead to the particle filter collapsing. Inspired by the techniques of Approximate Bayesian Computation (ABC), this thesis derives an ABC-based filter, which is able to estimate the likelihood even when the observation model is not probabilistic. The performance of the derived algorithm is first demonstrated on a simulation study. Next, the method is applied to a molecular biology problem describing a simplified prokaryotic auto-regulatory network.