AI si nevymýšľa zo zlej vôle. Dopĺňa medzery, ktoré jej necháte.
Poznáte príbehy vodičov, ktorí navigácii verili tak slepo, že zišli po rampe pre lode rovno do jazera. Smejeme sa im. Pri AI robíme to isté, len to nie je vidieť hneď. AI zhrnie zmluvu alebo navrhne postup tak sebaisto, že jej uveríme. Väčšinou má pravdu. Niekedy nás však posiela do jazera.
Keď AI s istotou podá nesprávnu informáciu, volá sa to halucinácia (mýtus, že AI si stále vymýšľa). My tomu hovoríme jednoducho: AI si vymýšľa.
AI nehľadá pravdu. Predpovedá, ako by znela.
Jazykový model sám osebe nič nevyhľadáva. Predpovedá, ako by vyzerala správna odpoveď. Väčšinou sa predpoveď a pravda zhodujú. Keď nie, výsledok znie rovnako presvedčivo.
Deje sa to z troch dôvodov:
- Model sa pri tréningu naučil znieť isto. Váhanie sa pri trénovaní trestá, plynulá odpoveď odmeňuje. Preto znie isto aj tam, kde by nemal.
- Model dopĺňa medzery. Keď údaj chýba alebo je nejasný, často sa nespýta a improvizuje.
- Silnejší model nie je automaticky pravdivejší. Niekedy sa mýli o to presvedčivejšie.
Pri človeku
Nový kolega, ktorý sa bojí priznať, že niečo nevie, radšej odpovie odhadom. Odhad podá rovnakým tónom ako fakt.
Pri AI
Model sa správa rovnako. Nie preto, že by klamal, ale preto, že ho tak naučili. Úlohou firmy je vytvoriť prostredie, kde odhadovať nemusí.
Pri agentoch je vymýšľanie zriedkavejšie, ale nebezpečnejšie
Dobrá správa: agent, ktorý si môže veci overiť, si vymýšľa menej. Keď má prístup k vašim dátam, vyhľadávaniu alebo systémom, nemusí hádať. Môže sa pozrieť.
Zlá správa: agent už nielen odpovedá. Zakladá úlohy, mení údaje, posiela pozvánky. Keď sa pomýli v jednom kroku reťazca, chyba sa nezastaví v okne chatu. Prejde do vašich systémov a urobí to s plnou istotou.
„Agent pomáha nákupnému oddeleniu kontrolovať termíny zmlúv s dodávateľmi. V jednej zmluve dátum chýba. Agent ho nenahlási, ale doplní pravdepodobný dátum. Tím potom plánuje podľa termínu, ktorý nikdy neexistoval. Nejde o chybu programu. Model urobil presne to, na čo bol postavený: doplnil vzor.“
Štyri rozhodnutia, ktoré vymýšľanie obmedzia
Vymýšľanie nie je osud. Je to dôsledok toho, ako je systém navrhnutý. Používame štyri pravidlá pri každom nasadení.
1. Dajte AI aktuálnu mapu
Navigácia s mapou spred piatich rokov nevie o novej ceste ani o zatvorenom moste. AI bez prístupu k vašim dátam je presne taká navigácia. (Ako jej dať firemné znalosti.) Prepojíme ju s miestami, kde máte platné dáta: CRM, úložiskom zmlúv, účtovníctvom. Potom neodhaduje, ale číta.
2. Nech počíta nástrojom, nie z hlavy
Keď kolegu požiadate o kvartálny prehľad nákladov, chcete, aby otvoril tabuľku, nie aby to odhadol z pamäti. AI bez nástrojov počíta z pamäti. S nástrojmi si údaj overí v systéme a výpočet urobí kalkulačkou.
3. Vyznačte hranice, kam AI nesmie
Aj šikovný človek občas sebaisto odpovedá na otázky mimo svojho odboru. Agent tiež. Preto mu písomne určíme, čo smie, čo nie, odkiaľ berie dáta a ktoré kroky musí niekto schváliť. Čím užšie hranice, tým menej priestoru na sebaisté omyly.
4. Pri dôležitých rozhodnutiach nechajte posledné slovo človeku
AI pripraví rýchly a dôkladný prvý návrh. Pri zmluvách, peniazoch a komunikácii s klientom ho človek skontroluje a schváli. To nie je zlyhanie technológie, ale dobrý návrh systému.
Pri človeku
Tempomat zvládne dlhé kilometre na diaľnici. Pri nájazde, zmene pruhu a nečakanej situácii však chcete za volantom vodiča.
Pri AI
Rutinné kroky nech robí AI sama. Tam, kde je chyba drahá, nech navrhuje a človek rozhoduje.
„Advokátska kancelária nasadí AI na prvé zhrnutie spisu. AI má prístup len k dokumentom daného spisu, pri každom tvrdení uvádza stranu, odkiaľ ho má, a keď údaj nenájde, napíše „v spise neuvedené“. Zhrnutie podpisuje advokát. AI šetrí čas, zodpovednosť zostáva u človeka.“
Spýtajte sa sami seba
Keď vám dnes AI niečo tvrdí, viete overiť, odkiaľ to má? A dovoľuje jej systém povedať „neviem“?
Nejde o lepší model, ale o lepší návrh
Rozdiel medzi AI, ktorá vás dovezie do cieľa, a AI, ktorá vás pošle do jazera, nie je v modeli. Je v rozhodnutiach, ako je systém postavený. Aké dáta vidí, aké nástroje má, kde sú jej hranice a kto kontroluje výsledok.
Preto pri každom riešení testujeme aj to, ako sa AI správa, keď odpoveď nepozná. Systém, ktorý vie povedať „toto v podkladoch nie je“, je cennejší než systém, ktorý vždy niečo odpovie.
