Izrada AI agenata koji rade pravi posao, a ne demoe

Između AI demoa koji dobiva pljesak i AI agenta koji svaki dan tiho obavlja posao postoji ponor. Prvo je mađioničarski trik. Drugo je infrastruktura. Izraditi drugo posve je druga disciplina.

Zašto većina agenata pada u produkciji

Demo se pokrene jednom, na čistom ulazu, uz nadzor. Pravi agent se pokrene tisuću puta na neurednom ulazu, bez nadzora, i svaka je pogreška stvarni trošak. Teški dio nije pametan prompt, nego što se dogodi tijekom devetsto devedeset devet običnih pokretanja i onog jednog koje krene po zlu.

Što agenta čini pravim

Agent koji radi ima usku, jasno definiranu zadaću, jasnu definiciju uspjeha, zaštitne ograde koje sprječavaju štetu i način da provjeri vlastiti izlaz prije nego djeluje. Zna kada nije siguran i eskalira umjesto da nagađa. Ostavlja trag da čovjek vidi što je učinio i zašto.

Kako ih gradimo

INKI gradi AI agente kao i svaki sustav koji radi bez nadzora: kreće od zadaće, ne od modela; provjerava svaki izlaz koji je bitan; pada sigurno, ne tiho; i zadržava čovjeka u petlji ondje gdje je cijena pogreške visoka. Model je komponenta, ne proizvod.

Gdje zaslužuju svoje mjesto

Najbolji agenti nestanu u tijeku rada: razvrstavaju ono što bi čovjek razvrstao, pišu nacrte koje bi čovjek pisao, prate ono što čovjek ne može pratiti danonoćno. Ne zamjenjuju prosudbu; uklanjaju tisuću malih zadataka koji stoje između čovjeka i njegove prosudbe.

Pitanje koje treba postaviti

Prije nego izradite AI agenta, pitajte što košta kada pogriješi i kako ćete to znati. Ako nema odgovora, gradite demo. Ako ima, gradite nešto što može raditi.