Skip to main content

RAG, vector search i embeddings

Natrag na AI agenti vodič

Oriphiel AI agenti vodič

RAG, vector search i embeddings

Kako agent dohvaća relevantne dokumente, FAQ, ponude i CRM bilješke kroz chunking, embeddings i semantičku pretragu.

Što ova AI-agent tema rješava

AI agent ima smisla samo ako rješava konkretan zadatak: razumije tekst, koristi relevantan kontekst, poziva dopuštene alate, vraća strukturirani izlaz ili pomaže čovjeku donijeti bolju odluku. Dobar agent nije samo chat odgovor, nego kontrolirani workflow s pravilima, logovima i mjerljivim ishodom.

RAG omogućuje da agent ne odgovara samo iz modelskog znanja, nego iz relevantnih internih dokumenata. Dokument se dijeli na chunkove, svaki chunk se pretvara u embedding vektor, upit se pretvara u vektor, a sustav dohvaća semantički najbliže isječke. Agent zatim odgovara uz kontekst koji je dohvaćen iz baze.

Ključne odluke

  • RAG je dohvat konteksta, ne garancija točnog odgovora.
  • Chunkovi moraju biti dovoljno mali za precizan dohvat i dovoljno veliki za smisao.
  • Embeddings model i vector baza trebaju biti verzionirani.
  • Agent treba vratiti koji izvori su korišteni kada je odluka važna.

Kako primijeniti u praksi

Praktična provedba počinje malim opsegom: jedan agent, jedan zadatak, jasna ulazna polja, ograničeni alati, validiran izlaz i ljudska provjera gdje postoji rizik. Nakon toga se šire modeli, RAG, multi-agent orkestracija, routing i automatizirano izvršavanje.

Koraci provedbe

  • Pripremiti dokumente: FAQ, ponude, procedure, cjenike i pravila obrade leadova.
  • Očistiti HTML, PDF ili DOCX tekst prije chunkinga.
  • Spremiti chunk text, metadata, source URL, version i embedding.
  • Kod upita dohvatiti top relevantne chunkove i filtrirati po dozvoli.
  • Mjeriti jesu li dohvaćeni izvori stvarno pomogli odgovoru.

Najčešće pogreške

Najčešća pogreška je preveliko povjerenje u prompt i premalo povjerenje u backend kontrole. Prompt pomaže modelu, ali dozvole, validacija, idempotentnost, audit log, sandbox, evaluacija i rollback moraju biti dio sustava.

Na što treba paziti

  • U vector bazu se ubace stari dokumenti bez verzije.
  • Agent citira dokument koji korisnik ne smije vidjeti.
  • Chunkovi su preveliki pa retrieval vraća šum.
  • Nema fallbacka kada nema dovoljno relevantnog konteksta.

Mjerenje i kontrola

AI agent treba imati svoje metrike: točnost, schema pass rate, tool call greške, latenciju, trošak, prihvaćanje prijedloga, broj ručnih korekcija i incidente. Bez mjerenja se ne zna je li agent stvarno bolji od ručnog procesa.

Metrike koje imaju smisla

  • Hit rate relevantnih chunkova.
  • Odgovori bez dovoljno konteksta.
  • Broj dokumenata po verziji.
  • Latencija retrievala.
  • Korekcije zbog zastarjelog izvora.

AI-agent pristup

Pouzdan AI-agent pristup povezuje model, context builder, tool dispatcher, strukturirani izlaz, memoriju, retrieval, permission matricu, evaluacije i monitoring. Besplatni open-source framework može smanjiti ulazni trošak, ali produkcijski trošak modela, hostinga, GPU/CPU resursa, observabilityja i održavanja treba računati zasebno.

Što se provjerava prije produkcije

  • Je li agentov zadatak dovoljno uzak i mjerljiv.
  • Jesu li alati definirani kroz jasnu shemu i backend validaciju.
  • Postoji li ljudska provjera za rizične akcije.
  • Jesu li prompt, model, output schema i eval skup verzionirani.
  • Postoji li audit log, budget limit, fallback i testiran kill switch.

Česta pitanja

Je li tema "RAG, vector search i embeddings" vezana samo uz OpenClaw?

Ne. Tema je objašnjena kao opći AI-agent koncept, a OpenClaw se koristi kao praktičan primjer CRM i automatizacijskog procesa u kojem se taj koncept može sigurno primijeniti.

Jesu li open-source AI agenti stvarno besplatni?

Framework može biti besplatan za self-hosting prema svojoj licenci, ali model API, lokalni GPU/CPU resursi, server, baza, monitoring, sigurnost i održavanje nisu automatski besplatni.

Može li AI agent samostalno mijenjati CRM?

Može samo ako mu backend to tehnički dopusti. Za produkciju je zdravije krenuti od prijedloga i nacrta, a write akcije pustiti tek nakon dozvola, validacije, evaluacija, audit loga i po potrebi ljudske potvrde.