Vlastný model? Väčšine firiem stačí bežný model s vašimi podkladmi.
„Nemali by sme si natrénovať vlastnú AI na našich dátach?“ Túto otázku počúvame často. Znie logicky: vlastný model, ktorý pozná náš odbor lepšie než ktokoľvek iný. Pred dvoma rokmi to často dávalo zmysel. Dnes vás bežné modely dobehnú skôr, než vlastný model dokončíte. Ale je tu jedno veľké ALE.
Čo je trénovanie vlastného modelu
Odborne sa tomu hovorí fine-tuning. Zoberiete hotový model, ktorý sa učil z obrovského množstva textov z internetu, a pokračujete v jeho trénovaní na vašich dátach. Napríklad na tisícoch zmlúv alebo na histórii zákazníckych požiadaviek. Výsledkom je nový model, ktorý by mal byť lepší v úzkej oblasti.
Pre predstavu o rozsahu: na zmysluplné doladenie potrebujete tisíce kvalitných a skontrolovaných príkladov z vlastnej praxe. Pri veľkých projektoch ide o milióny strán textu, ako ukazuje príbeh nižšie. Bez takýchto dát trénovanie nemá z čoho stavať.
Pri človeku
Zamestnanca pošlete na dvojročné špecializačné štúdium. Vráti sa ako odborník, ale za tie dva roky sa odbor posunie.
Pri AI
Trénovanie je to štúdium. Drahé, pomalé a výsledok zastará, keď vyjde ďalšia generácia bežných modelov.
Príbeh, ktorý sa obrátil
Právna AI firma Harvey si spolu s OpenAI dala natrénovať vlastný model na americkú judikatúru. Pridali doň ekvivalent 10 miliárd tokenov právnych dát. Advokáti uprednostnili jeho odpovede pred vtedajším GPT-4 v 97 percentách prípadov a model dával o 83 % viac faktických odpovedí. Jasná výhra.
V máji 2025 však Harvey napísal, že za necelý rok ich pôvodne testovaný systém v ich vlastnom právnom teste BigLaw Bench predbehlo sedem bežných modelov, z toho tri od iných výrobcov ako OpenAI. Dnes Harvey kombinuje bežné modely od viacerých výrobcov a vylepšuje to, čo je okolo nich: postupy, firemné znalosti a prácu s ľuďmi.
Prečo bežné modely dobiehajú vlastné
Dôvody sú tri:
- Model dnes prečíta stovky strán naraz. Prečo dokumenty natrvalo vkladať do modelu, keď mu ich môžete dať priamo k otázke?
- Modely premýšľajú až pri samotnej otázke. Kvalita odpovede čoraz viac závisí od toho, ako model uvažuje teraz, nie od toho, na čom sa učil pred mesiacmi.
- Bežné modely každých pár mesiacov zlacnejú a zlepšia sa. Vlastný model ich preto stále dobieha. Kým ho dokončíte, môže ho predbehnúť ďalšia verzia.
Čo funguje namiesto trénovania
Bežný model sa dá urobiť špecialistom bez toho, aby ste ho trénovali. Stačia vrstvy, ktoré pridávate postupne:
- Dobré zadanie a podklady. Jasné inštrukcie, správne dáta a formát odpovede v jednom balíku.
- Vyhľadávanie vo vašich dokumentoch (odborne RAG). AI si pri každej otázke vytiahne aktuálne podklady. Viac v našom článku o firemných znalostiach.
- Skilly. Zapísané postupy, ako sa niečo u vás robí. AI si ich načíta, keď ich potrebuje. Napríklad presný postup, ako sa pripravuje ponuka.
Pri človeku
Namiesto dvojročného štúdia dáte šikovnému kolegovi platnú príručku, prístup k archívu a zapísaný postup. Do týždňa pracuje ako odborník.
Pri AI
Rovnako funguje zadanie, vyhľadávanie a skilly. A keď vyjde lepší model, prevezme príručku aj postupy bez nového trénovania.
„Účtovná kancelária chce AI, ktorá odpovedá klientom presne v štýle kancelárie a podľa jej postupov. Namiesto trénovania stačí zbierka vzorových odpovedí, aktuálne návody a skill s postupom, ako sa odpovedá na otázky k DPH. Keď sa zmení zákon, upravia jeden dokument. Pri vlastnom modeli by museli trénovať znova.“
Trénovanie je drahšie, než vyzerá
Samotné trénovanie je len časť nákladov. Treba nazbierať a vyčistiť príklady, overiť výsledky, strážiť, aby sa model v niečom nezhoršil, a udržiavať ho, keď sa zmenia podmienky. Pre malú alebo strednú firmu je to takmer vždy zbytočná investícia.
Konkrétny príklad: Bloomberg v roku 2023 natrénoval vlastný finančný model BloombergGPT s 50 miliardami parametrov. Samotný tréning zabral takmer 1,3 milióna hodín na grafických kartách Nvidia A100. Na to väčšina firiem nemá rozpočet ani tím.
A možností ubúda. OpenAI od mája 2026 postupne vypína samoobslužné trénovanie svojich modelov. Nové organizácie ho už spustiť nemôžu a od 6. januára 2027 nebudú môcť vytvárať nové tréningy ani existujúci zákazníci. Anthropic podľa vlastnej dokumentácie trénovanie modelov Claude cez svoje API zatiaľ neponúka a firmám so záujmom odporúča obrátiť sa priamo na nich. Výrobcovia sa sami presúvajú k tomu, aby sa bežné modely prispôsobovali cez zadanie, podklady a nástroje.
Tri prípady, keď má trénovanie zmysel
Trénovanie nie je mŕtve. Len sa zúžilo na špecifické prípady:
- Keď záleží na zlomkoch sekundy. Napríklad hlasový agent, ktorý dvíha telefón. Najsilnejšie modely premýšľajú príliš dlho a malý natrénovaný model môže byť lepšia voľba.
- Keď chcete z veľkého modelu urobiť malý a lacný. Veľký model vygeneruje kvalitné odpovede a na nich sa natrénuje malý. Volá sa to destilácia.
- Keď sa dá správnosť automaticky overiť. Ak existuje jednoznačne správna odpoveď, model sa dá trénovať na tom, aby ju dosahoval častejšie.
Dnes sa navyše zvyčajne netrénuje celý model. Trénuje sa malý doplnok, ktorý sa pripojí k hotovému modelu (odborne LoRA). Podľa pôvodnej štúdie z roku 2021 tak treba trénovať až 10 000-krát menej parametrov a stačí trikrát menej pamäte grafických kariet. Je to lacnejšie, ale stále je to krajná možnosť.
| PORADIE | ČO SKÚSIŤ | KEDY |
|---|---|---|
| 1 | Zadanie a podklady | Vždy |
| 2 | Vyhľadávanie vo vašich dokumentoch | Keď AI potrebuje aktuálne alebo firemné znalosti |
| 3 | Skilly | Keď AI nevie, ako sa niečo u vás robí |
| 4 | Trénovanie | Len keď predchádzajúce kroky nestačia a viete pomenovať prečo |
Spýtajte sa sami seba
Čo presne má vlastný model vedieť lepšie než bežný model s vašimi dokumentmi a postupmi? Ak to neviete pomenovať jednou vetou, trénovanie zatiaľ nepotrebujete.
Pri výbere vždy postupujeme od najlacnejšej vrstvy. Väčšina firiem skončí pri druhom alebo treťom kroku a dostane špecialistu bez toho, aby platila za vlastný model.
