Škálovatelnost neuronových sítí pro booleovskou splnitelnost

Abstract

Tato dizertační práce zkoumá aplikaci grafových neuronových sítí (GNN) pro řešení problémů Booleovské splnitelnosti (SAT), s hlavním zaměřením na zlepšení škalovatelnosti modelu. Zde škalovatelnost zahrnuje jak schopnosti modelu škálování výkonu na větších či složitějších problémech, tak různá funkční rozšíření základní architektury modelu. Nejprve systematicky vyhodnocujeme základní volby návrhu GNN (jako jsou reprezentace grafů, aktualizační funkce a účelové funkce), abychom položili pevný základ pro následná rozšíření. Pro zlepšení efektivity tréninku a schopnosti modelu řešit složité problémy tato práce navrhuje metodu učení s učitelem "Nejbližší Přiřazení" (Closest Assignment) a aplikuje strategie kurikulárního učení. Experimenty rozsáhle ověřují několik technik škálování výkonu, jako je škálování iterací v testovacím čase, převzorkování a decimační techniky, které všechny efektivně zvyšují výkon modelu. Pokud jde o rozšíření modelu, tato práce zkoumá variantní architektury GNN založené na pozornosti; rozšiřuje základní GNN na difúzní model pro generování přiřazení; a dále integruje tento difúzní model s jednotkovou propagací (UP) k vytvoření efektivního hybridního systému řešení.

This thesis investigates the application of Graph Neural Networks (GNNs) for solving Boolean Satisfiability (SAT) problems, with a core focus on enhancing model scalability. Here, scalability encompasses both the model's performance scaling capabilities on larger or more complex problems and various functional extensions to the base model architecture. We first systematically evaluate fundamental GNN design choices (such as graph representations, update functions, and loss functions) to establish a solid foundation for subsequent extensions. To improve training efficiency and the model's ability to handle complex problems, this work proposes the "Closest Assignment" supervision method and applies curriculum learning strategies. Experiments extensively validate several performance scaling techniques, such as test-time iteration scaling, resampling, and decimation, all of which effectively boost model performance. In terms of model extension, this thesis explores attention-based GNN variant architectures; extends the base GNN to a diffusion model for assignment generation; and further integrates this diffusion model with Unit Propagation (UP) to construct an efficient hybrid solving system.