Što ova AI-agent tema rješava

AI agent ima smisla samo ako rješava konkretan zadatak: razumije tekst, koristi relevantan kontekst, poziva dopuštene alate, vraća strukturirani izlaz ili pomaže čovjeku donijeti bolju odluku. Dobar agent nije samo chat odgovor, nego kontrolirani workflow s pravilima, logovima i mjerljivim ishodom.

Cloud modeli daju brzi start, snažnije modele i manje operativnog održavanja, ali uvode varijabilan trošak i ovisnost o provideru. Lokalni modeli daju kontrolu i predvidljivost, ali traže infrastrukturu i dobar operativni setup. OpenClaw treba podržati oba pristupa kroz isti agent contract gdje je to izvedivo.

Ključne odluke

• Odabir modela treba biti po zadatku, ne globalna odluka za sve agente.
• Cloud API je često bolji za početni pilot i složenije zadatke.
• Lokalni modeli su korisni za volumen, privatnost ili specifične klasifikacije.
• Usporedba mora uključiti kvalitetu, ne samo cijenu tokena ili GPU-a.

Kako primijeniti u praksi

Praktična provedba počinje malim opsegom: jedan agent, jedan zadatak, jasna ulazna polja, ograničeni alati, validiran izlaz i ljudska provjera gdje postoji rizik. Nakon toga se šire modeli, RAG, multi-agent orkestracija, routing i automatizirano izvršavanje.

Koraci provedbe

• Napraviti matricu zadataka: klasifikacija, sažetak, RAG, email draft, planiranje, tool use.
• Za svaki zadatak testirati cloud i local varijantu.
• Usporediti accuracy, latency, cost, privacy i maintenance.
• Postaviti model routing pravila i fallback.

Najčešće pogreške

Najčešća pogreška je preveliko povjerenje u prompt i premalo povjerenje u backend kontrole. Prompt pomaže modelu, ali dozvole, validacija, idempotentnost, audit log, sandbox, evaluacija i rollback moraju biti dio sustava.

Na što treba paziti

• Jedan provider se koristi za sve jer je prvi proradio.
• Lokalni model se smatra privatnim iako logs idu u vanjski monitoring.
• Cloud model se koristi za podatke koji ne bi trebali napustiti sustav.
• Nema standardiziranog output schema pa se provider ne može zamijeniti.

Mjerenje i kontrola

AI agent treba imati svoje metrike: točnost, schema pass rate, tool call greške, latenciju, trošak, prihvaćanje prijedloga, broj ručnih korekcija i incidente. Bez mjerenja se ne zna je li agent stvarno bolji od ručnog procesa.

Metrike koje imaju smisla

• Accuracy po provideru.
• Trošak po 1000 zadataka.
• Prosječna i p95 latencija.
• Incidenti dostupnosti.
• Model fallback rate.

AI-agent pristup

Pouzdan AI-agent pristup povezuje model, context builder, tool dispatcher, strukturirani izlaz, memoriju, retrieval, permission matricu, evaluacije i monitoring. Besplatni open-source framework može smanjiti ulazni trošak, ali produkcijski trošak modela, hostinga, GPU/CPU resursa, observabilityja i održavanja treba računati zasebno.

Što se provjerava prije produkcije

• Je li agentov zadatak dovoljno uzak i mjerljiv.
• Jesu li alati definirani kroz jasnu shemu i backend validaciju.
• Postoji li ljudska provjera za rizične akcije.
• Jesu li prompt, model, output schema i eval skup verzionirani.
• Postoji li audit log, budget limit, fallback i testiran kill switch.