Pozrieť výstup AI ešte neznamená skontrolovať ho.
Strach pustiť agenta samého je zdravý. Najčastejšia odpoveď naň znie: „Výstup pred odoslaním ešte pozrie človek.“ Znie to rozumne a všetci v miestnosti sa upokoja. Problém je, že človek, ktorý vidí len hotový výsledok, nevie posúdiť, ako k nemu agent prišiel. Neoverí ho, len ho odklepne.
Podpis bez kontextu nie je kontrola.
Predstavte si bežný proces: AI pripraví výstup, človek ho pozrie, rozhodnutie sa vykoná. Na papieri je tam kontrola. V praxi sa málokto pýta, čo ten človek pri kontrole vlastne vidí.
Pri človeku
Konateľ dostane na podpis hrubý balík faktúr. Nevie, odkiaľ prišli, kto ich preveril ani prečo sú práve takéto. Podpíše, lebo nemá čas ani podklady. Formálne schválil. Reálne nekontroloval nič.
Pri AI
Rovnako dopadne kolega, ktorý dostane od agenta hotový návrh bez dôvodov a bez histórie. Po desiatom správnom návrhu už len kliká „schváliť“. Kontrola sa zmení na rutinu a riziko zostane.
Agentovi treba dôverovať z rovnakých dôvodov ako človeku.
Keď niekomu vo firme naozaj dôverujete, opierate sa o niekoľko vecí. Dajú sa previesť na otázky, ktoré treba položiť aj pri AI.
| PRI ČLOVEKU SA PÝTATE | PRI AGENTOVI SA PÝTATE |
|---|---|
| Vychádza z reálnych podkladov? | Z akých dát a akým spôsobom pracuje? |
| Viem predvídať, ako uvažuje? | Viem zistiť, prečo rozhodol práve takto? |
| Robí to stále dobre? | Sledujeme, či funguje správne, aj keď sa podmienky menia? |
| V koho záujme koná? | Na čo bol nastavený a v prospech koho? |
| Je to stále ten istý spoľahlivý človek? | Nemohol ho niekto zmanipulovať alebo pozmeniť? |
Pri agentoch, ktoré pracujú samy a dlho, je najdôležitejší tretí riadok. Agent, ktorý minulý mesiac fungoval, nemusí fungovať dnes. (Ako ho priebežne testovať.) Zmenia sa dáta, cenník, správanie zákazníkov. Bez priebežného sledovania si to nikto nevšimne.
Kontrola funguje, keď má človek štyri veci.
Ak chcete agenta pustiť samého a mať pritom kontrolu, človek v procese potrebuje viac než tlačidlo „schváliť“.
- Vidí dôvody, nielen výsledok. Agent ukáže, z čoho vychádzal a prečo navrhuje práve toto.
- Má právomoc zastaviť. Nielen vrátiť jeden návrh, ale zastaviť celý proces, keď niečo nesedí.
- Meria sa správna vec. Nesledujete len počet vybavených prípadov, ale aj počet opráv a sťažností.
- Jeho opravy sa vracajú do systému. Každá oprava zmení pravidlá alebo postup agenta, aby sa chyba neopakovala.
Bez týchto štyroch vecí je „človek v procese“ len dobrý pocit. S nimi je to začiatok skutočnej kontroly.
„Účtovná kancelária nechá agenta párovať platby s faktúrami. Kontrolórka nedostáva zoznam hotových párov, ale len výnimky s vysvetlením: „platba o 3 eurá nižšia, pravdepodobne bankový poplatok“. Vidí dôvod, môže párovanie zastaviť a každá jej oprava sa zapíše ako nové pravidlo. Agent beží sám, kontrola je tam, kde má zmysel.“
„Náš obchodný systém sám vyhľadáva a oslovuje firmy. Za dva týždne preveril približne 509 firiem a poslal 173 e-mailov. Človek nevstupuje do každého kroku, ale presne tam, kde na tom záleží: keď si prospekt dohodne stretnutie.“
Človek prináša to, čo model nemá.
Aj dobre nastavený agent číta dáta. Človek číta situáciu. Vie rozpoznať, že spis hovorí jedno a život konkrétneho klienta druhé. Nepýta sa len „čo hovorí výstup“, ale „čo toto rozhodnutie znamená pre tohto človeka“.
Preto pri rozhodnutiach, ktoré sa týkajú ľudí, nepatrí ku kontrole len technik. Patrí tam niekto, kto rozumie ľuďom a dôsledkom: skúsená vedúca recepcie, advokát, personalistka.
Kedy agenta samého nepúšťať.
Ak neviete zistiť, prečo agent rozhodol, nepúšťajte ho k rozhodnutiam s dopadom na ľudí alebo peniaze. Ak nikto nemá čas pozerať výnimky, zmenšite rozsah práce agenta tak, aby to niekto zvládol. A ak za rozhodnutie musí niekto osobne ručiť, agent pripraví podklady, rozhodne človek.
Spýtajte sa sami seba
Keď u vás človek schvaľuje výstup AI, vidí aj dôvody, alebo len výsledok?
