- Početna
- Vodiči
- AI agenti vodič
- Model routing i fallback strategija
Oriphiel AI agenti vodič
Model routing i fallback strategija
Kako OpenClaw može birati model po zadatku, trošku, riziku i dostupnosti te se sigurno prebaciti na drugi provider.
Odgovor ukratko
Model routing znači da OpenClaw ne šalje svaki zadatak istom modelu. Jednostavna klasifikacija može ići jeftinijem ili lokalnom modelu, složeni slučaj jačem modelu, a osjetljivi podatak modelu koji zadovoljava privacy uvjete. Fallback treba biti svjestan razlika u kvaliteti i output shemi, a ne samo pokušaj drugog API-ja.
Ključne odluke
- Routing pravila trebaju biti transparentna i verzionirana.
- Fallback ne smije mijenjati poslovni ishod bez loga.
- Svaki provider mora proći isti output contract.
- Za rizične zadatke fallback može značiti ljudsku provjeru, ne drugi model.
Provedba korak po korak
Cilj ove lekcije je izbjeći lock-in i smanjiti rizik nedostupnosti. Korake treba provoditi redom i svaki potvrditi prije širenja opsega.
Preporučeni redoslijed
- Definirati routing tablicu po agent tipu, riziku i maksimalnom trošku.
- Normalizirati output schema između providera.
- Dodati health check i rate limit signal za svaki provider.
- Logirati zašto je odabran model i je li korišten fallback.
- Periodično usporediti rezultate modela na istom eval skupu.
Praktičan primjer
Praktičan primjer za developere i administratore AI sustava: tim prvo provodi korak „Definirati routing tablicu po agent tipu, riziku i maksimalnom trošku.”, zatim provjerava „Potvrđena je ključna odluka: Routing pravila trebaju biti transparentna i verzionirana.”. Odluka o nastavku ne donosi se prema dojmu, nego prema pokazatelju „Routing odluke po modelu.”.
Kontrolna lista prije nastavka
Ova provjera odvaja završenu implementaciju od postavke koja samo izgleda dovršeno.
Provjerite
- Potvrđena je ključna odluka: Routing pravila trebaju biti transparentna i verzionirana.
- Testiran je prvi korak provedbe: Definirati routing tablicu po agent tipu, riziku i maksimalnom trošku.
- Dogovoreno je početno mjerenje: Routing odluke po modelu.
Najčešće pogreške i rizici
Rizike treba provjeriti prije povećanja prometa, automatizacije ili ovlasti sustava.
Na što treba paziti
- Fallback model ne podržava isti tool calling format.
- Jeftiniji model daje dovoljno JSON-a, ali loše poslovne odluke.
- Provider outage zaustavi cijeli CRM proces.
- Routing pravilo se promijeni bez testiranja i objave verzije.
Mjerenje rezultata
Učinak se procjenjuje kroz mali skup metrika koje su povezane s ciljem lekcije i stvarnim poslovnim ishodom.
Metrike koje imaju smisla
- Routing odluke po modelu.
- Fallback rate.
- Kvaliteta po provideru.
- Trošak po agent tipu.
- Incidenti zbog model dostupnosti.
Česta pitanja
Koji je prvi korak za temu „Model routing i fallback strategija”?
Definirati routing tablicu po agent tipu, riziku i maksimalnom trošku. Prije nastavka potvrdite odluku: Routing pravila trebaju biti transparentna i verzionirana.
Kako provjeriti da je provedba uspješna?
Potvrđena je ključna odluka: Routing pravila trebaju biti transparentna i verzionirana. Nakon toga pratite metriku: Routing odluke po modelu..
Koju pogrešku treba prvo spriječiti?
Fallback model ne podržava isti tool calling format. Problem ispravite prije automatizacije ili povećanja budžeta.
Službeni i stručni izvori
Sučelja, pravila i preporuke mogu se mijenjati. Prije produkcijske izmjene provjerite aktualnu dokumentaciju.
Primijenite lekciju na stvarni projekt
Pošaljite postojeću konfiguraciju, cilj i problem koji želite riješiti. Dobit ćete prijedlog sljedećeg tehničkog ili operativnog koraka.