Što ova AI-agent tema rješava

AI agent ima smisla samo ako rješava konkretan zadatak: razumije tekst, koristi relevantan kontekst, poziva dopuštene alate, vraća strukturirani izlaz ili pomaže čovjeku donijeti bolju odluku. Dobar agent nije samo chat odgovor, nego kontrolirani workflow s pravilima, logovima i mjerljivim ishodom.

LLM predviđa korisni sljedeći tekst ili strukturirani izlaz na temelju konteksta, uputa i prethodnih primjera. U agentu model najčešće ne izvršava posao sam: on bira alat, priprema argumente, objašnjava odluku ili sažima rezultat. Stvarno izvršenje mora ostati u kontroliranom backendu koji zna validirati ulaz i zaštititi podatke.

Ključne odluke

• Model je dobar za jezik, klasifikaciju i neuredan tekst, ali nije baza podataka ni sustav dozvola.
• Kritične odluke treba poduprijeti pravilima, evidencijom i ljudskom provjerom.
• Model treba dobiti dovoljno konteksta, ali ne cijelu povijest CRM-a bez razloga.
• Za svaki model treba znati trošak, latenciju, kontekstni prozor i podršku za alate.

Kako primijeniti u praksi

Praktična provedba počinje malim opsegom: jedan agent, jedan zadatak, jasna ulazna polja, ograničeni alati, validiran izlaz i ljudska provjera gdje postoji rizik. Nakon toga se šire modeli, RAG, multi-agent orkestracija, routing i automatizirano izvršavanje.

Koraci provedbe

• Odvojiti ulogu modela od uloge aplikacijskog koda.
• U prompt staviti cilj, granice, format izlaza i pravila eskalacije.
• Alate izložiti kroz uske funkcije s jasnim opisom i shemom.
• Za važne odluke vratiti reason code ili confidence koji se može auditirati.

Najčešće pogreške

Najčešća pogreška je preveliko povjerenje u prompt i premalo povjerenje u backend kontrole. Prompt pomaže modelu, ali dozvole, validacija, idempotentnost, audit log, sandbox, evaluacija i rollback moraju biti dio sustava.

Na što treba paziti

• Model se koristi za izmišljanje podataka koje treba dohvatiti iz CRM-a.
• Prompt pokušava zamijeniti validaciju, role permission i poslovna pravila.
• Predug kontekst poveća trošak i smanji pouzdanost.
• Model se promijeni bez regresijskog testa nad starim primjerima.

Mjerenje i kontrola

AI agent treba imati svoje metrike: točnost, schema pass rate, tool call greške, latenciju, trošak, prihvaćanje prijedloga, broj ručnih korekcija i incidente. Bez mjerenja se ne zna je li agent stvarno bolji od ručnog procesa.

Metrike koje imaju smisla

• Točnost klasifikacije.
• Broj tool callova po zadatku.
• Latencija modelskog odgovora.
• Tokeni po obradi.
• Stopa haluciniranih ili neprovjerljivih tvrdnji.

AI-agent pristup

Pouzdan AI-agent pristup povezuje model, context builder, tool dispatcher, strukturirani izlaz, memoriju, retrieval, permission matricu, evaluacije i monitoring. Besplatni open-source framework može smanjiti ulazni trošak, ali produkcijski trošak modela, hostinga, GPU/CPU resursa, observabilityja i održavanja treba računati zasebno.

Što se provjerava prije produkcije

• Je li agentov zadatak dovoljno uzak i mjerljiv.
• Jesu li alati definirani kroz jasnu shemu i backend validaciju.
• Postoji li ljudska provjera za rizične akcije.
• Jesu li prompt, model, output schema i eval skup verzionirani.
• Postoji li audit log, budget limit, fallback i testiran kill switch.