Kedy stačí jeden AI agent a kedy potrebujete tím agentov.
Jeden AI agent je ako veľmi šikovný nováčik, ktorý len zriedka povie „neviem“. Odpovedá rýchlo, presvedčivo a s rovnakou istotou, keď má pravdu aj keď sa mýli. Rozhodujúca otázka preto nie je, či agent robí chyby, ale čo sa stane, keď nejakú urobí.
Agent nepovie: „nie som si istý“.
Jazykové modely sú naučené tvoriť odpovede, ktoré znejú vierohodne. Hranice svojich vedomostí poznajú len čiastočne a neistotu priznajú nespoľahlivo. Zlú odpoveď preto často podajú rovnako presvedčivo ako správnu. Novšie modely sú v tom lepšie, úplne to však nezmizne, lebo to vyplýva z toho, ako modely fungujú.
Pri zhrnutí e-mailu alebo návrhu príspevku to nevadí. Pri zmluve, platbe alebo odpovedi pacientovi to je riziko.
Pri ľuďoch
Firmy na toto prišli dávno. Väčšie platby podpisujú dvaja ľudia. Pri vážnej diagnóze sa chodí po druhý názor. Pilot má druhého pilota a kontrolný zoznam. Nie preto, že by ľudia nevedeli pracovať, ale preto, že chybu jediného schvaľovateľa nemá kto zachytiť.
Pri AI
Rovnakú múdrosť môžete zabudovať do systému. Namiesto jedného agenta, ktorý odpovedá, postavíte malý tím, ktorý sa navzájom kontroluje.
Tím agentov funguje na princípe viacerých očí.
Dobrým príkladom je riadiace stredisko letu Apollo 11. Pred každým kritickým rozhodnutím sa riaditeľ letu opýtal každého špecialistu: pokračovať, alebo nie? Jedno „nie“ stačilo na zastavenie. Rovnako sa dá postaviť aj systém agentov:
- Prvý agent pripraví odpoveď. Rýchlo, ako prvý návrh.
- Druhý agent ju overí. Skontroluje fakty a hľadá vymyslené údaje.
- Tretí agent hľadá chyby. Jeho úlohou je návrh rozbiť a opýtať sa, čo sa môže pokaziť.
Keď sa zhodnú, výsledku môžete veriť viac. Keď sa nezhodnú, je to signál: návrh ide k človeku, nie von.
„Advokátska kancelária nechá agenta pripraviť prvý návrh odpovede klientovi. Druhý agent porovná citované ustanovenia s textom zákona a zmluvy. Tretí hľadá formulácie, ktoré by mohli klienta zaviazať k niečomu nechcenému. Ak niektorý z nich nesúhlasí, návrh skončí u advokáta s poznámkou, čo nesedí.“
Viac agentov stojí viac. No oplatí sa to len niekde.
Každý ďalší agent znamená ďalšie volania modelu a vyššie náklady. Preto to nemá byť riešenie na všetko. Pomôže jednoduchý test: čo sa stane, keď sa AI pomýli?
| NÁSLEDOK CHYBY | RIEŠENIE |
|---|---|
| Mierna nepríjemnosť (zlé odporúčanie, slabší text) | Jeden agent, jednoduché a lacné |
| Peniaze, zdravie, právne riziko, regulácia | Tím agentov s overovaním a človek pri nezhode |
Hlavný agent áno. Kľúče od všetkého nie.
Druhá otázka je, či mať jedného „hlavného“ agenta pre celú firmu. Dáva to zmysel. Ľudia nechcú hľadať, ktorý chat je pre faktúry a ktorý pre obchod. Chcú jedno miesto, ktoré rozumie celej firme a vie, kam úlohu poslať.
Riziko vzniká, keď takýto agent dostane všetky práva. Môže čítať, meniť a mazať všade. Ak ho niekto zneužije alebo zmanipuluje cez jeden slabý bod, dostane sa ku všetkému. Škoda sa tak z jedného miesta rozšíri na celú firmu.
Pri ľuďoch
Recepčná je jeden kontaktný bod pre celú firmu. Vie, komu čo posunúť. Nemá však kľúče od trezoru, mzdovej agendy ani serverovne. Tie majú len tí, ktorí ich potrebujú.
Pri AI
Hlavný agent je recepčná. Rozumie požiadavke a posunie ju špecializovanému agentovi. Ku konkrétnemu systému, napríklad k účtovníctvu, má prístup len jeden úzky agent, ktorý nič iné nerobí.
Bezpečný návrh preto stojí na troch zásadách:
- Čo najmenej právomocí. Každý agent dostane len toľko, koľko potrebuje na svoju úlohu. Čím rizikovejší systém, tým užší agent.
- Oddelené nástroje. K citlivému systému vedie len jedna cesta. Ak sa niečo pokazí, škoda zostane na jednom mieste.
- Záznam všetkého. Každé rozhodnutie a každý krok sa zapisuje, aby sa dalo spätne zistiť, čo sa stalo a prečo.
A nad tým všetkým: človek. Buď priamo v procese pri dôležitých rozhodnutiach, alebo aspoň s prehľadom nad tým, čo agenti robia.
Kedy tím agentov nie.
Ak agent odporúča články na čítanie alebo pripravuje interné zhrnutia, tím agentov je zbytočný výdavok. Ak firma ešte nemá ani jedného agenta, ktorý spoľahlivo funguje, začnite jedným. Tím má zmysel tam, kde chyba bolí a kde už viete, čo presne kontrolovať.
Jeden agent alebo tím: ako sa rozhodnúť
Agent sa mýli rovnako presvedčivo, ako má pravdu. Preto otázka neznie, či mu veriť, ale čo sa stane, keď sa pomýli.
Kde chyba nič nestojí, stačí jeden agent. Je lacný a rýchly. Kde chyba stojí peniaze, zdravie alebo reputáciu, postavte tím: jeden agent navrhne, druhý overí, tretí hľadá chyby a pri nezhode rozhodne človek.
A ak chcete jedného hlavného agenta pre celú firmu, nech funguje ako recepčná. Rozumie požiadavke a posunie ju ďalej, ale kľúče od citlivých systémov majú len úzki agenti s minimálnymi právami. Získate pohodlie jedného miesta bez rizika, že jedna chyba zasiahne celú firmu.
Spýtajte sa sami seba
Ktoré rozhodnutie by ste agentovi zverili len vtedy, keby ho po ňom niekto skontroloval?
