Vektorová databáze
Také známo jako Vector store
Stručně
Databáze (nebo její rozšíření), která rychle najde nejbližší vektory — úložiště pod vyhledáváním v RAG.
Vektorová databáze ukládá embeddingy vedle textu a metadat a odpovídá na „dej mi 10 nejpodobnějších vektorů“ v milisekundách, i s miliony řádků, pomocí přibližného indexu místo porovnávání všech.
Nová databáze vám nejspíš chybí zbytečně
Pro většinu produktů do pár stovek tisíc pasáží stačí databáze, kterou už máte. PostgreSQL s rozšířením pgvector zvládne vektory, filtrování podle metadat a spoje s existujícími tabulkami — s jednou zálohou, jedním migračním nástrojem a jedním modelem přístupu.
Samostatná vektorová databáze se vyplatí u desítek milionů vektorů, při potřebě shardingu nebo při specializovaném filtrování pod velkou zátěží. Každá další databáze je další věc ke sledování, zabezpečení a placení.
Metadata z něj dělají produkt
Holé vektorové hledání prohledá všechno. V reálném produktu musí asistent respektovat přístupová práva — obchodník nemá najít mzdovou tabulku HR jen proto, že si formulace sedla. U každého vektoru ukládejte tenanta, typ dokumentu a rozsah oprávnění a filtrujte ještě před hledáním.
Ukládejte i zdroj a stabilní identifikátor. „Odpověz s odkazem na dokument“ je rozdíl mezi demem a asistentem, kterému lidé věří.
Zdroje
Související pojmy
Embedding
Seznam čísel, který zachytí význam textu — texty s podobným významem tak skončí blízko sebe.
RAG
Model dostane při každé otázce správné pasáže z vašich dokumentů, takže odpovídá z faktů, ne z paměti.
PostgreSQL
Open-source relační databáze, se kterou je nejlepší začít: relace, joiny, transakce a JSONB v jednom prověřeném systému.