Vysvětlitelné modely umělé inteligence pro testování znalostí

Abstract

Tato diplomová práce se zabývá metodami vysvětlitelné umělé inteligence v oblasti testování znalostí, přičemž se zaměřuje na využití bayesovských sítí. Cílem práce je analyzovat a demonstrovat, jak lze pomocí těchto sítí nejen přesně vyhodnotit dovednosti studentů na základě jejich odpovědí, ale také poskytnout srozumitelné vysvětlení těchto závěrů. Práce představuje principy vysvětlitelné umělé inteligence, popisuje strukturu a fungování bayesovských sítí a vysvětluje metody výpočtu v těchto modelech. Dále se věnuje způsobům, jakými lze poskytovat vysvětlení výstupů bayesovských sítí. V praktické části je představen reálný model bayesovské sítě aplikovaný na testování znalostí, kde jsou porovnány metody MPE a MAP. Výsledky ukazují, že tyto dvě metody mohou vést k odlišným výstupům, což má významné dopady na interpretaci výsledků testování.

This diploma thesis deals with explainable artificial intelligence methods in the field of knowledge testing, focusing on the use of Bayesian networks. The goal of the thesis is to analyze and demonstrate how these networks can not only accurately evaluate students' skills based on their answers, but also to provide understandable explanation of~these conclusions. The thesis presents the principles of explainable artificial intelligence, describes the structure and functioning of Bayesian networks, and explains the calculation methods in these models. It also discusses ways in which explanations of the outputs of Bayesian networks can be provided. The practical part presents a real Bayesian network model applied to knowledge testing, where the MPE and MAP methods are compared. The results show that these two methods can lead to different outputs, which has significant impacts on the interpretation of testing results.