Prompt
Také známo jako Prompt engineering, Instrukce
Stručně
Pokyny a kontext, které modelu posíláte. Jasná struktura, příklady a definovaný formát výstupu jsou důležitější než vychytaná formulace.
Prompt je text, který modelu řekne, jakou roli má hrát, co má udělat, z čeho může vycházet a jak má odpovědět. Je to kód: verze, testy a revize změn patří stejně jako u každého jiného souboru, který jde do produkce.
Co výsledky opravdu zlepší
Konkrétnost poráží zdvořilost. „Vrať JSON s klíči title, summary, tags“ funguje lépe než „prosím pěkně to naformátuj“. Jeden příklad dobré odpovědi často udělá víc než odstavec pokynů a dva tři příklady okrajových případů (prázdný vstup, chybějící cena) odbourají většinu překvapení.
Řekněte modelu, ať umí říct „nevím“, když odpověď není v dodaném kontextu. Bez té instrukce má model tendenci nejistotu vyplnit něčím věrohodným.
Prompt engineering není magie
Většina „triků na prompty“ je jen struktura: oddělit pokyny od dat, označit sekce, v dlouhých promptech dát zadání na konec, protože model čte konec pozorně. Strop promptu je informace, kterou mu dáte, a model, který používáte.
Při úpravě promptu měňte vždy jednu věc a pusťte evaluaci. Úprava, která pomůže jednomu případu, často rozbije tři další a bez testovací sady si toho nikdo nevšimne — dokud si toho nevšimne zákazník.
Související pojmy
Velký jazykový model
Model natrénovaný na obrovském množství textu, který odhaduje další token — a to stačí na psaní, vysvětlování, překlad i úsudek.
Halucinace
Když model s plnou sebedůvěrou tvrdí něco nepravdivého — vymyšlený zdroj, cenu nebo název API.
RAG
Model dostane při každé otázce správné pasáže z vašich dokumentů, takže odpovídá z faktů, ne z paměti.