Kako zgraditi AI agente, ki opravljajo pravo delo, ne demov

Med AI demom, ki požanje aplavz, in AI agentom, ki vsak dan tiho opravlja delo, je prepad. Prvi je čarovniški trik. Drugi je infrastruktura. Graditi drugega je povsem druga disciplina.

Zakaj večina agentov odpove v produkciji

Demo se izvede enkrat, na čistem vhodu, ob nadzoru človeka. Pravi agent se izvede tisočkrat na razmetanem vhodu, brez nadzora, in vsaka napaka je pravi strošek. Težki del ni pameten poziv, ampak kaj se zgodi ob devetsto devetindevetdesetih običajnih izvedbah in tisti eni, ki gre narobe.

Kaj naredi agenta pravega

Delujoč agent ima ozko, jasno določeno nalogo, jasno definicijo uspeha, varovala, ki mu preprečijo škodo, in način, da svoj rezultat preveri, preden ukrepa. Ve, kdaj ni prepričan, in eskalira, namesto da ugiba. Pusti sled, da človek vidi, kaj je naredil in zakaj.

Kako jih gradimo

INKI gradi AI agente tako kot vsak sistem, ki teče brez nadzora: izhajamo iz naloge, ne iz modela; preverimo vsak rezultat, ki šteje; odpovemo varno, ne tiho; in ohranimo človeka v zanki tam, kjer je cena napake visoka. Model je ena komponenta, ne produkt.

Kje si zaslužijo svoje mesto

Najboljši agenti izginejo v potek dela: razvrščajo, kar bi razvrščal človek, pišejo osnutke, ki bi jih pisal človek, spremljajo, česar človek ne more spremljati štiriindvajset ur. Ne nadomeščajo presoje; odstranijo tisoč majhnih opravil, ki stojijo med človekom in njegovo presojo.

Vprašanje, ki ga zastavite

Preden zgradite AI agenta, vprašajte, koliko stane, ko se zmoti, in kako boste to vedeli. Če odgovora ni, gradite demo. Če je, gradite nekaj, kar lahko teče.