Oriphiel AI agenti vodič
Kontekst, tokeni i ograničenja AI agenta
Zašto agent ne smije dobiti sve podatke odjednom i kako se upravlja kontekstom, tokenima, sažimanjem i relevantnim dokumentima.
Što ova AI-agent tema rješava
AI agent ima smisla samo ako rješava konkretan zadatak: razumije tekst, koristi relevantan kontekst, poziva dopuštene alate, vraća strukturirani izlaz ili pomaže čovjeku donijeti bolju odluku. Dobar agent nije samo chat odgovor, nego kontrolirani workflow s pravilima, logovima i mjerljivim ishodom.
Agent radi samo s podacima koji su mu u trenutnom kontekstu ili koje može dohvatiti alatima. Kontekstni prozor ima limit, tokeni koštaju i previše šuma smanjuje kvalitetu odluke. Zato OpenClaw agent treba dobiti sažet CRM zapis, relevantne aktivnosti, dopuštene alate i eventualno RAG isječke, a ne cijelu bazu.
Ključne odluke
- Kontekst treba biti selektivan i reproducibilan.
- Dugi tekstovi se režu, sažimaju ili dohvaćaju kroz retrieval, ne ubacuju naslijepo.
- Sustav treba znati koliko tokena troši svaki tip zadatka.
- Sažetak memorije ne smije zamijeniti izvorne audit podatke.
Kako primijeniti u praksi
Praktična provedba počinje malim opsegom: jedan agent, jedan zadatak, jasna ulazna polja, ograničeni alati, validiran izlaz i ljudska provjera gdje postoji rizik. Nakon toga se šire modeli, RAG, multi-agent orkestracija, routing i automatizirano izvršavanje.
Koraci provedbe
- Definirati context builder za svaki agentov zadatak.
- Ograničiti broj zadnjih aktivnosti ili poruka koje ulaze u prompt.
- Za dokumente koristiti chunking, embeddings i dohvat relevantnih dijelova.
- Spremati token usage i latenciju po agent runu.
Najčešće pogreške
Najčešća pogreška je preveliko povjerenje u prompt i premalo povjerenje u backend kontrole. Prompt pomaže modelu, ali dozvole, validacija, idempotentnost, audit log, sandbox, evaluacija i rollback moraju biti dio sustava.
Na što treba paziti
- Agent dobije previše nerelevantnog teksta pa propusti važan signal.
- Sažeci se generiraju bez veze prema izvornom dokumentu.
- Trošak raste jer se cijeli CRM zapis šalje pri svakom koraku.
- Kontekst sadrži podatke za koje agent nema poslovnu potrebu.
Mjerenje i kontrola
AI agent treba imati svoje metrike: točnost, schema pass rate, tool call greške, latenciju, trošak, prihvaćanje prijedloga, broj ručnih korekcija i incidente. Bez mjerenja se ne zna je li agent stvarno bolji od ručnog procesa.
Metrike koje imaju smisla
- Prosječni ulazni i izlazni tokeni.
- Broj dohvaćenih RAG isječaka.
- Latencija po context builderu.
- Greške zbog predugog konteksta.
- Kvaliteta odgovora nakon sažimanja.
AI-agent pristup
Pouzdan AI-agent pristup povezuje model, context builder, tool dispatcher, strukturirani izlaz, memoriju, retrieval, permission matricu, evaluacije i monitoring. Besplatni open-source framework može smanjiti ulazni trošak, ali produkcijski trošak modela, hostinga, GPU/CPU resursa, observabilityja i održavanja treba računati zasebno.
Što se provjerava prije produkcije
- Je li agentov zadatak dovoljno uzak i mjerljiv.
- Jesu li alati definirani kroz jasnu shemu i backend validaciju.
- Postoji li ljudska provjera za rizične akcije.
- Jesu li prompt, model, output schema i eval skup verzionirani.
- Postoji li audit log, budget limit, fallback i testiran kill switch.
Česta pitanja
Je li tema "Kontekst, tokeni i ograničenja AI agenta" vezana samo uz OpenClaw?
Ne. Tema je objašnjena kao opći AI-agent koncept, a OpenClaw se koristi kao praktičan primjer CRM i automatizacijskog procesa u kojem se taj koncept može sigurno primijeniti.
Jesu li open-source AI agenti stvarno besplatni?
Framework može biti besplatan za self-hosting prema svojoj licenci, ali model API, lokalni GPU/CPU resursi, server, baza, monitoring, sigurnost i održavanje nisu automatski besplatni.
Može li AI agent samostalno mijenjati CRM?
Može samo ako mu backend to tehnički dopusti. Za produkciju je zdravije krenuti od prijedloga i nacrta, a write akcije pustiti tek nakon dozvola, validacije, evaluacija, audit loga i po potrebi ljudske potvrde.