Što ova AI-agent tema rješava

AI agent ima smisla samo ako rješava konkretan zadatak: razumije tekst, koristi relevantan kontekst, poziva dopuštene alate, vraća strukturirani izlaz ili pomaže čovjeku donijeti bolju odluku. Dobar agent nije samo chat odgovor, nego kontrolirani workflow s pravilima, logovima i mjerljivim ishodom.

Dispatcher je sigurnosni sloj između modela i sustava. On ne smije biti samo switch-case koji poziva funkciju. Treba provjeriti postoji li alat, smije li ga agent koristiti, jesu li argumenti validni, postoji li idempotency key, treba li odobrenje i vraća li rezultat dozvoljeni oblik.

Ključne odluke

• Dozvole se provjeravaju u dispatcheru i u domeni, ne samo u promptu.
• Svaki alat ima allowlistu agenata i razinu autonomije.
• Argumenti se validiraju prije dohvaćanja ili promjene podataka.
• Tool result se redigira prije vraćanja modelu.

Kako primijeniti u praksi

Praktična provedba počinje malim opsegom: jedan agent, jedan zadatak, jasna ulazna polja, ograničeni alati, validiran izlaz i ljudska provjera gdje postoji rizik. Nakon toga se šire modeli, RAG, multi-agent orkestracija, routing i automatizirano izvršavanje.

Koraci provedbe

• Napraviti centralni tool registry.
• Dodati validatore za tipove, enum vrijednosti, maksimalne duljine i obavezna polja.
• Prije izvršenja provjeriti user role, agent role i scope podataka.
• Implementirati dry-run mod za rizične alate.
• Vratiti standardiziran error code kada alat nije dopušten.

Najčešće pogreške

Najčešća pogreška je preveliko povjerenje u prompt i premalo povjerenje u backend kontrole. Prompt pomaže modelu, ali dozvole, validacija, idempotentnost, audit log, sandbox, evaluacija i rollback moraju biti dio sustava.

Na što treba paziti

• Model prompt sadrži zabranu, ali backend ipak ima otvoren endpoint.
• Jedan alat prima arbitrary SQL, URL ili shell naredbu.
• Dispatcher vraća cijeli CRM objekt umjesto minimalnog rezultata.
• Ne postoji razlika između read i write alata.

Mjerenje i kontrola

AI agent treba imati svoje metrike: točnost, schema pass rate, tool call greške, latenciju, trošak, prihvaćanje prijedloga, broj ručnih korekcija i incidente. Bez mjerenja se ne zna je li agent stvarno bolji od ručnog procesa.

Metrike koje imaju smisla

• Odbijeni tool callovi.
• Greške validacije argumenata.
• Pokušaji pristupa izvan scopea.
• Dry-run naspram apply akcija.
• Redigirana polja u tool rezultatima.

AI-agent pristup

Pouzdan AI-agent pristup povezuje model, context builder, tool dispatcher, strukturirani izlaz, memoriju, retrieval, permission matricu, evaluacije i monitoring. Besplatni open-source framework može smanjiti ulazni trošak, ali produkcijski trošak modela, hostinga, GPU/CPU resursa, observabilityja i održavanja treba računati zasebno.

Što se provjerava prije produkcije

• Je li agentov zadatak dovoljno uzak i mjerljiv.
• Jesu li alati definirani kroz jasnu shemu i backend validaciju.
• Postoji li ljudska provjera za rizične akcije.
• Jesu li prompt, model, output schema i eval skup verzionirani.
• Postoji li audit log, budget limit, fallback i testiran kill switch.