Jazykový model je zamrznutý v čase. O vašej firme vie len to, čo mu dáte.
Jazykový model je zamrznutý v čase. Pozná svet len po dátum, ku ktorému zozbierali dáta na jeho tréning, a nevie nič o tom, čo sa stalo pred piatimi minútami. O vašich zmluvách, cenníku a interných postupoch nevie vôbec nič. Ak má AI odpovedať ako niekto z vašej firmy, musíte jej tie znalosti dať. Otázka je ako.
Dve cesty: AI prečíta všetko, alebo si vyhľadá len to, čo potrebuje
Prvá cesta je jednoduchá. Celé dokumenty vložíte priamo do zadania a model si v nich odpoveď nájde sám. Dnešné modely to zvládnu, do jedného zadania sa zmestia stovky strán.
Druhá cesta je vyhľadávanie. Odborne sa volá RAG (čo to je) (retrieval augmented generation): dokumenty sa vopred rozdelia na menšie časti, uložia do špeciálnej databázy a pri každej otázke sa vytiahne len to, čo s ňou súvisí. Model dostane päť relevantných odsekov namiesto celého archívu.
Pri človeku
Nový kolega má dve možnosti. Prečíta celý šanón, kým odpovie klientovi. Alebo zavolá kolegyni z archívu, ktorá mu podá presne tú jednu stranu, ktorú potrebuje.
Pri AI
Vložiť všetko je ako prečítať celý šanón. Vyhľadávanie je kolegyňa z archívu. Obe cesty fungujú, ale každá na iný typ práce.
Na porovnávanie potrebuje AI vidieť celé dokumenty
Vyhľadávanie hľadá to, čo v texte je. Nevie nájsť to, čo v texte chýba. Ak sa spýtate, ktoré požiadavky zo zadania sa nedostali do finálnej verzie, vyhľadávanie podá útržky z oboch dokumentov. To, čo chýba, však v útržkoch nevidno.
Keď model dostane oba dokumenty celé, porovnanie zvládne. Preto pri menšom, uzavretom súbore dokumentov a otázkach, ktoré vyžadujú pohľad na celok, odporúčame jednoduchšiu cestu. Odpadá databáza aj všetko, čo sa v nej môže pokaziť.
„Advokátska kancelária porovnáva návrh zmluvy od protistrany so svojím vzorom. Vyhľadávanie by našlo podobné články. Až keď model vidí oba texty celé, vie povedať, ktorá ochranná klauzula v návrhu chýba.“
Keď je dokumentov veľa alebo sa menia, pomôže vyhľadávanie
Vkladanie celého manuálu do každej otázky niečo stojí. Model ho musí spracovať zakaždým znova a vy za to zakaždým platíte. Vyhľadávanie spracuje dokumenty raz, pri ukladaní do databázy, a pri otázke pošle modelu len pár odsekov.
Druhý dôvod je presnosť. Výskum ukazuje, že model pri veľmi dlhom texte stráca pozornosť. Odsek ukrytý uprostred dlhého textu prehliadne, alebo si k nemu dovymýšľa detaily z okolia. Keď dostane len päť správnych odsekov, sústredí sa na podstatné.
Tretí dôvod je objem. Firemné dáta za roky sa do žiadneho zadania nezmestia. Bez vrstvy, ktorá vyberie to podstatné, to nejde.
Pri človeku
Recepčná na klinike nepozerá pri každom telefonáte celý cenník a všetky smernice. Má po ruke kartu s tým, čo sa pýtajú najčastejšie.
Pri AI
Vyhľadávanie pripraví pre AI takú kartu ku každej otázke zvlášť. Lacnejšie a s menším rizikom, že sa stratí v detailoch.
Najväčším nedostatkom sú vaše dokumenty
Firemné dokumenty písali rôzni ľudia v rôznych rokoch. Smernica z roku 2019 hovorí niečo iné než tá z roku 2024. Ak sú v databáze obe, AI raz odpovie podľa jednej a raz podľa druhej. Ľudia potom povedia, že si vymýšľa. V skutočnosti len verne cituje vaše rozpory.
Tri pravidlá platia pri každej znalostnej báze:
- Do databázy patrí len platná verzia. Nahradené smernice a staré cenníky von. Bez správy dokumentov to nefunguje.
- AI sa má vedieť doplňujúco opýtať. Keď je otázka nejasná, napríklad „aká je zľava?“, lepšie je spýtať sa, pre akého klienta, než hádať.
- AI nesmie byť múdrejšia než vaše dáta. Ak dokumenty pripúšťajú tri odpovede, AI má povedať všetky tri. Ak ide o názor, nesmie ho podať ako fakt.
„Účtovná firma nasadí AI na otázky klientov o termínoch a dokladoch. V databáze ostali staré návody spred zmeny zákona. AI odpovedá sebaisto a nesprávne. Riešenie nebolo v lepšom modeli, ale v jednom popoludní upratovania dokumentov a v pravidle, že každý návod má dátum platnosti.“
Spýtajte sa sami seba
Viete, ktorá verzia vašej smernice alebo cenníka je dnes platná? A vedel by to povedať aj nový kolega bez toho, aby sa pýtal?
Ako vyberáme správnu cestu
| SITUÁCIA | ČO ODPORÚČAME |
|---|---|
| Pár desiatok dokumentov, otázky na porovnanie a súvislosti | Vložiť dokumenty celé, bez databázy |
| Stovky dokumentov, časté otázky na konkrétne fakty | Vyhľadávanie (RAG) |
| Dáta sa menia každý deň | Vyhľadávanie s priebežnou aktualizáciou |
| Dokumenty si navzájom odporujú | Najprv upratať, až potom stavať |
Obe cesty sa dajú kombinovať. Vyhľadávanie nájde správne dokumenty a tie sa potom vložia celé, aby AI videla súvislosti.
Znalostná báza je viac práca s obsahom než s technológiou
Keď staviame znalostnú bázu, prvé dni nepíšeme kód. Pozeráme sa na vaše dokumenty: čo je platné, čo si odporuje, na čo sa ľudia naozaj pýtajú. Až potom vyberáme, či stačí jednoduchá cesta, alebo treba vyhľadávanie.
Technológia sa dá postaviť za pár dní. Dôvera ľudí v odpovede vzniká z toho, že AI pracuje s dátami, ktoré sú v poriadku.
V praxi postupujeme v štyroch krokoch:
Inventúra. Spíšeme, kde znalosti ležia: zdieľané disky, e-maily, CRM aj hlavy ľudí. Zistíme, čo je platné, čo je duplicitné a čo si odporuje.
Vlastník a platnosť. Každý dokument dostane človeka, ktorý zaň zodpovedá, a dátum, do kedy platí. Bez toho sa báza o pol roka znova zanesie.
Skúšobné otázky. S vašimi ľuďmi pripravíme sadu skutočných otázok aj so správnymi odpoveďami. Podľa nich overujeme, či AI odpovedá správne, a overujeme to znova po každej zmene.
Spätná väzba. Keď AI odpovie zle, ľudia to vedia jedným klikom nahlásiť. Najčastejšie nejde o chybu modelu, ale o chýbajúci alebo zastaraný dokument.
Záver je jednoduchý: najprv dáta, potom technológia. Firma, ktorá si uprace dokumenty, postaví dobrú znalostnú bázu takmer s akoukoľvek technológiou. Firma s chaosom v dokumentoch ju nepostaví ani s najlepším modelom.
