Meta-prompty pro optimalizaci promptu velkého jazykového modelu

Abstract

Tvorba promptů pro velké jazykové modely (LLM) představuje významnou překážku v jejich plném využití a je obtížná jak pro odborníky, tak pro běžné uživatele. V této bakalářské práci navrhujeme jednoduchou metodu optimalizace promptů na základě populační varianty hill-climber algoritmu, postavenou na vlastním frameworku pro strukturovanou generaci. Využíváme principy promptového inženýrství k vytvoření několika meta-prompting technik, které testujeme na různorodých úlohách oproti silnému referenčnímu řešení, vytvořenému pomocí Instruction Induction. Zároveň přinášíme přehled aktuální literatury v rychle se vyvíjejícím oboru optimalizace promptů a zasazujeme tuto úlohu do širšího kontextu training-time a inference-time scalingu. Naše jednodušší meta-prompting techniky dosahují v experimentech nejlepších výsledků a překonávají výchozí řešení i komplikovanější varianty. Naše práce ukazuje možnost využití optimalizace promptů jak v analytických, tak i v kreativních kontextech, ale zdůrazňuje citlivost optimalizace s LLM na návrh meta-promptů. Kód je dostupný na https://github.com/skipyas0/prompt_optimizer.Prompt design for Large Language Models (LLMs) remains a key bottleneck in leveraging their full capabilities, posing challenges for both expert practitioners and everyday users. In this bachelor's thesis, we develop a simple population-based hill-climber prompt optimization method built atop a custom framework for structured generation inference. Specifically, we apply prompt engineering principles to create several meta-prompting approaches and evaluate them across multiple tasks against a strong Instruction Induction baseline. Additionally, we survey current literature in the rapidly evolving field of prompt optimization and frame it in the broader context of training-time and inference-time scaling. Our simpler meta-prompting approaches perform best in experiments, outperforming both the baseline and more complex variants. Our work showcases the applicability of prompt optimization to both reasoning-intensive and creative tasks, while highlighting the sensitivity to meta-prompt design in LLM-based optimization. Code is available at https://github.com/skipyas0/prompt_optimizer.