Vektorová databáza a RAG: ako AI nájde správny odsek v tisícoch dokumentov.
Keď sa AI opýtate na zmluvu alebo cenník, nečíta celý archív. Nájde pár odsekov, ktoré k otázke patria, a odpovie podľa nich. Tomu sa hovorí RAG a jeho srdcom je vektorová databáza. Vysvetlíme, ako funguje, čo dnes funguje lepšie než pred rokom a na čo si dať pozor.
Prečo AI nečíta všetky vaše dokumenty naraz.
Prvé, čo napadne: dať AI všetky dokumenty a nech si poradí. Pri desiatkach strán to funguje, pri tisícoch nie. Čím dlhší text model dostane, tým ľahšie v ňom prehliadne dôležitý odsek. A každá otázka nad celým archívom je pomalá a drahá. Preto sa AI dokumenty neposielajú celé. Najprv sa v nich vyhľadá to, čo k otázke patrí.
„Firma má 4 000 strán zmlúv, smerníc a e-mailov. Obchodník sa pýta, aká je výpovedná lehota v zmluve s firmou Novák. AI nečíta 4 000 strán. Vyhľadávanie vráti tri odseky, AI z nich odpovie a pridá odkaz na stranu zmluvy.“
RAG (z anglického retrieval-augmented generation, odpoveď doplnená vyhľadávaním) má dva kroky: najprv nájsť, potom odpovedať. Kvalita odpovede preto stojí hlavne na prvom kroku. Ak vyhľadávanie vráti zlé odseky, ani najlepší model neodpovie správne.
Vektor je význam zapísaný v číslach.
Klasické vyhľadávanie hľadá rovnaké slová. Vektorové hľadá rovnaký význam. Každý úsek textu prejde cez takzvaný embedding model, ktorý z neho spraví vektor: rad stoviek až tisícok čísel. Texty s podobným významom dostanú podobné čísla, aj keď nemajú ani jedno spoločné slovo.
Pri človeku
Knihovníčka nehľadá podľa presného názvu. Keď poviete „niečo o reklamáciách v e-shope“, vie, ktorá polica s tým súvisí, aj keď to slovo na chrbte knihy nie je.
Pri AI
Otázka „môžem vrátiť rozbitý tovar?“ nájde odsek o „vadnom výrobku a odstúpení od zmluvy“. Slová sú iné, význam rovnaký.
Podobnosť sa meria ako vzdialenosť medzi vektormi, najčastejšie kosínusovou podobnosťou. Aby databáza nemusela porovnávať otázku s miliónmi úsekov jeden po druhom, používa približné hľadanie najbližších susedov. Výsledok je hotový v zlomku sekundy. Je to však „najpodobnejšie“, nie „správne“. Preto sú potrebné ďalšie kroky.
Ako funguje RAG systém v šiestich krokoch
Celý systém sa dá rozložiť na šesť krokov. Prvé tri sa robia raz, keď dokumenty vkladáte. Ďalšie tri pri každej otázke.
| KROK | ČO SA DEJE | KEDY |
|---|---|---|
| 1. Rozdeliť dokumenty | Text sa rozdelí na úseky, napríklad po odsekoch | Pri vkladaní |
| 2. Vytvoriť vektory | Každý úsek prejde cez embedding model | Pri vkladaní |
| 3. Uložiť | Vektory sa uložia spolu so zdrojom, dátumom a právami | Pri vkladaní |
| 4. Vyhľadať | Otázka sa prevedie na vektor a nájdu sa najbližšie úseky | Pri otázke |
| 5. Zoradiť | Ďalší model zoradí úseky podľa toho, či naozaj odpovedajú | Pri otázke |
| 6. Odpovedať | AI odpovie len z nájdených úsekov a uvedie zdroj | Pri otázke |
Najviac chýb vzniká v kroku 1 a 4. Príliš veľké úseky sú nepresné, príliš malé strácajú súvislosti. A hľadanie bez filtrov na platnosť a práva vráti aj starý cenník alebo dokument, ktorý daný človek nemá vidieť.
Čo dnes funguje lepšie než čisté vektorové hľadanie
Prvé RAG systémy sa spoliehali len na vektory. Dnes sa kombinujú s ďalšími technikami:
- Hybridné vyhľadávanie: vektory nájdu význam, hľadanie podľa slov nájde presné výrazy ako číslo zmluvy alebo kód produktu.
- Zoradenie výsledkov: ďalší model prečíta nájdené úseky a zoradí ich podľa toho, ako naozaj odpovedajú na otázku.
- Kontext k úsekom: každý úsek dostane krátky popis, odkiaľ pochádza. Spolu s hybridným hľadaním a zoradením to v teste Anthropic znížilo počet neúspešných vyhľadaní o 67 %.
- Graf vzťahov a agentické hľadanie: pri otázkach naprieč mnohými dokumentmi pomáha mapa vzťahov medzi pojmami (GraphRAG). Agent si sám určí, čo a kde hľadať, a keď výsledky nestačia, hľadá znova.
Pri človeku
Skúsená asistentka nehľadá len v jednom šuplíku. Pozrie do zoznamu, prelistuje šanón a keď si nie je istá, opýta sa kolegu.
Pri AI
Dobrý RAG systém robí to isté: hľadá viacerými spôsobmi, výsledky porovná a keď nestačia, hľadá znova.
Kedy vektorovú databázu nepotrebujete
Ak máte pár desiatok strán, ktoré sa zmestia do jedného projektu v Claude, vektorová databáza je zbytočná. AI ich prečíta celé. Ak sa ľudia pýtajú na čísla, napríklad tržby alebo stav objednávok, patria do klasickej databázy. Vektorová databáza dáva zmysel, keď je dokumentov veľa, menia sa a ľudia sa na ne pýtajú vlastnými slovami.
Čo znamená RAG pre vašu firmu
RAG je spôsob, ako AI odpovedá z vašich dokumentov namiesto z pamäti. Vektorová databáza v ňom hľadá podľa významu, nie podľa slov. Dobre funguje, keď sú dokumenty v poriadku, hľadá sa viacerými spôsobmi a AI uvádza zdroj.
Pre firmu z toho plynú tri rozhodnutia: ktoré dokumenty do knižnice patria a kto ich udržiava aktuálne, kto smie vidieť čo a kde budú dáta uložené. Technológia je dnes bežne dostupná, napríklad ako rozšírenie pgvector k databáze PostgreSQL. Rozhoduje obsah.
Zdroje: Lewis a kol., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (2020); Anthropic, Introducing Contextual Retrieval (2024); IBM, What is a RAG vector database; Microsoft Research, GraphRAG (2024).
Spýtajte sa sami seba
Keby sa dnes AI opýtala na vaše interné pravidlá, našla by aktuálnu verziu, alebo tú z minulého roka?
