# AI si nevymýšľa zo zlej vôle. Dopĺňa medzery, ktoré jej necháte.

Jaro Rais · 6 min čítania · 2026-10-14 · AI a jazykové modely
Source: https://itashu.co/know-how/preco-si-ai-vymysla

Poznáte príbehy vodičov, ktorí navigácii verili tak slepo, že zišli po rampe pre lode rovno do jazera. Smejeme sa im. **Pri AI robíme to isté, len to nie je vidieť hneď.** AI zhrnie zmluvu alebo navrhne postup tak sebaisto, že jej uveríme. Väčšinou má pravdu. Niekedy nás však posiela do jazera.

![Mapa: jedna cesta vedie po rampe do jazera, druhá s aktuálnou mapou do cieľa](https://itashu.co/img/art-11-hero-1280.webp)

Keď AI s istotou podá nesprávnu informáciu, volá sa to halucinácia ([mýtus, že AI si stále vymýšľa](https://itashu.co/know-how/pat-mytov-o-ai#kapitola-01)). My tomu hovoríme jednoducho: AI si vymýšľa.

## AI nehľadá pravdu. Predpovedá, ako by znela.

Jazykový model sám osebe nič nevyhľadáva. **Predpovedá, ako by vyzerala správna odpoveď.** Väčšinou sa predpoveď a pravda zhodujú. Keď nie, výsledok znie rovnako presvedčivo.

Deje sa to z troch dôvodov:

- **Model sa pri tréningu naučil znieť isto.** Váhanie sa pri trénovaní trestá, plynulá odpoveď odmeňuje. Preto znie isto aj tam, kde by nemal.
- **Model dopĺňa medzery.** Keď údaj chýba alebo je nejasný, často sa nespýta a improvizuje.
- **Silnejší model nie je automaticky pravdivejší.** Niekedy sa mýli o to presvedčivejšie.

- **Pri človeku:** Nový kolega, ktorý sa bojí priznať, že niečo nevie, radšej odpovie odhadom. Odhad podá rovnakým tónom ako fakt.
- **Pri AI:** Model sa správa rovnako. Nie preto, že by klamal, ale preto, že ho tak naučili. Úlohou firmy je vytvoriť prostredie, kde odhadovať nemusí.

## Pri agentoch je vymýšľanie zriedkavejšie, ale nebezpečnejšie

Dobrá správa: **agent, ktorý si môže veci overiť, si vymýšľa menej.** Keď má prístup k vašim dátam, vyhľadávaniu alebo systémom, nemusí hádať. Môže sa pozrieť.

Zlá správa: agent už nielen odpovedá. Zakladá úlohy, mení údaje, posiela pozvánky. Keď sa pomýli v jednom kroku reťazca, chyba sa nezastaví v okne chatu. **Prejde do vašich systémov a urobí to s plnou istotou.**

> **V praxi:** „Agent pomáha nákupnému oddeleniu kontrolovať termíny zmlúv s dodávateľmi. V jednej zmluve dátum chýba. Agent ho nenahlási, ale doplní pravdepodobný dátum. Tím potom plánuje podľa termínu, ktorý nikdy neexistoval. Nejde o chybu programu. Model urobil presne to, na čo bol postavený: doplnil vzor.“

![Chýbajúci kus v stene vyplnený vymysleným dielom](https://itashu.co/img/art-11-gap-1280.webp)

## Štyri rozhodnutia, ktoré vymýšľanie obmedzia

Vymýšľanie nie je osud. Je to dôsledok toho, ako je systém navrhnutý. Používame štyri pravidlá pri každom nasadení.

### 1. Dajte AI aktuálnu mapu

Navigácia s mapou spred piatich rokov nevie o novej ceste ani o zatvorenom moste. **AI bez prístupu k vašim dátam je presne taká navigácia.** ([Ako jej dať firemné znalosti.](https://itashu.co/know-how/jazykovy-model-je-zamrznuty-v-case)) Prepojíme ju s miestami, kde máte platné dáta: CRM, úložiskom zmlúv, účtovníctvom. Potom neodhaduje, ale číta.

### 2. Nech počíta nástrojom, nie z hlavy

Keď kolegu požiadate o kvartálny prehľad nákladov, chcete, aby otvoril tabuľku, nie aby to odhadol z pamäti. **AI bez nástrojov počíta z pamäti.** S nástrojmi si údaj overí v systéme a výpočet urobí kalkulačkou.

### 3. Vyznačte hranice, kam AI nesmie

Aj šikovný človek občas sebaisto odpovedá na otázky mimo svojho odboru. Agent tiež. Preto mu písomne určíme, čo smie, čo nie, odkiaľ berie dáta a ktoré kroky musí niekto schváliť. **Čím užšie hranice, tým menej priestoru na sebaisté omyly.**

### 4. Pri dôležitých rozhodnutiach nechajte posledné slovo človeku

AI pripraví rýchly a dôkladný prvý návrh. Pri zmluvách, peniazoch a komunikácii s klientom ho človek skontroluje a schváli. To nie je zlyhanie technológie, ale dobrý návrh systému.

![Štyri pravidlá v rade: mapa, kalkulačka, hranica a človek, ktorý schvaľuje](https://itashu.co/img/art-11-rules-1280.webp)

- **Pri človeku:** Tempomat zvládne dlhé kilometre na diaľnici. Pri nájazde, zmene pruhu a nečakanej situácii však chcete za volantom vodiča.
- **Pri AI:** Rutinné kroky nech robí AI sama. Tam, kde je chyba drahá, nech navrhuje a človek rozhoduje.

> **V praxi:** „Advokátska kancelária nasadí AI na prvé zhrnutie spisu. AI má prístup len k dokumentom daného spisu, pri každom tvrdení uvádza stranu, odkiaľ ho má, a keď údaj nenájde, napíše „v spise neuvedené“. Zhrnutie podpisuje advokát. AI šetrí čas, zodpovednosť zostáva u človeka.“

**Spýtajte sa sami seba:** Keď vám dnes AI niečo tvrdí, viete overiť, odkiaľ to má? A dovoľuje jej systém povedať „neviem“?

## Nejde o lepší model, ale o lepší návrh

Rozdiel medzi AI, ktorá vás dovezie do cieľa, a AI, ktorá vás pošle do jazera, nie je v modeli. **Je v rozhodnutiach, ako je systém postavený.** Aké dáta vidí, aké nástroje má, kde sú jej hranice a kto kontroluje výsledok.

Preto pri každom riešení testujeme aj to, ako sa AI správa, keď odpoveď nepozná. Systém, ktorý vie povedať „toto v podkladoch nie je“, je cennejší než systém, ktorý vždy niečo odpovie.

---

Povedzte nám, kde vám AI dnes odpovedá príliš sebaisto. Ukážeme, ako to obmedziť. https://itashu.co/konzultacia