Oriphiel AI agenti vodič
Incidenti, rollback i audit log za AI agente
Kako reagirati kada agent pogriješi: zaustavljanje, istraga tracea, poništavanje akcije, obavijest i poboljšanje evala.
Odgovor ukratko
Agentic incident može biti pogrešna klasifikacija, krivo poslan email, neispravan CRM status, privacy propust ili troškovni runaway. OpenClaw treba imati audit log koji pokazuje ulaz, prompt version, model, alate, argumente, korisnika, odobrenja i rezultat. Rollback treba biti planiran za svaku write akciju.
Ključne odluke
- Svaka write akcija treba imati audit trag i strategiju poništavanja gdje je izvedivo.
- Incident response treba uključiti business ownera, ne samo developera.
- Kill switch treba zaustaviti nove runove i queued jobove kada je potrebno.
- Svaki incident treba završiti promjenom testa, pravila ili dokumentacije.
Provedba korak po korak
Cilj ove lekcije je imati operativan odgovor na agent pogreške. Korake treba provoditi redom i svaki potvrditi prije širenja opsega.
Preporučeni redoslijed
- Definirati incident kategorije i ozbiljnost.
- Za write alate spremiti before/after gdje je dopušteno i korisno.
- Dodati rollback ili compensating action za status, task, queue i suppression promjene.
- Nakon incidenta ažurirati eval skup i prompt/tool verziju.
Praktičan primjer
Praktičan primjer za administratore, support i developere: tim prvo provodi korak „Definirati incident kategorije i ozbiljnost.”, zatim provjerava „Potvrđena je ključna odluka: Svaka write akcija treba imati audit trag i strategiju poništavanja gdje je izvedivo.”. Odluka o nastavku ne donosi se prema dojmu, nego prema pokazatelju „Incidenti po tipu.”.
Kontrolna lista prije nastavka
Ova provjera odvaja završenu implementaciju od postavke koja samo izgleda dovršeno.
Provjerite
- Potvrđena je ključna odluka: Svaka write akcija treba imati audit trag i strategiju poništavanja gdje je izvedivo.
- Testiran je prvi korak provedbe: Definirati incident kategorije i ozbiljnost.
- Dogovoreno je početno mjerenje: Incidenti po tipu.
Najčešće pogreške i rizici
Rizike treba provjeriti prije povećanja prometa, automatizacije ili ovlasti sustava.
Na što treba paziti
- Nema traga koji je model ili prompt donio odluku.
- Rollback izbriše dokaz koji je potreban za audit.
- Kill switch zaustavi UI, ali ne pozadinski queue.
- Incident se riješi ručno, ali testovi ostanu isti pa se ponovi.
Mjerenje rezultata
Učinak se procjenjuje kroz mali skup metrika koje su povezane s ciljem lekcije i stvarnim poslovnim ishodom.
Metrike koje imaju smisla
- Incidenti po tipu.
- Vrijeme do zaustavljanja agenta.
- Vrijeme do rollbacka.
- Runovi pogođeni incidentom.
- Novi regression testovi nakon incidenta.
Česta pitanja
Koji je prvi korak za temu „Incidenti, rollback i audit log za AI agente”?
Definirati incident kategorije i ozbiljnost. Prije nastavka potvrdite odluku: Svaka write akcija treba imati audit trag i strategiju poništavanja gdje je izvedivo.
Kako provjeriti da je provedba uspješna?
Potvrđena je ključna odluka: Svaka write akcija treba imati audit trag i strategiju poništavanja gdje je izvedivo. Nakon toga pratite metriku: Incidenti po tipu..
Koju pogrešku treba prvo spriječiti?
Nema traga koji je model ili prompt donio odluku. Problem ispravite prije automatizacije ili povećanja budžeta.
Službeni i stručni izvori
Sučelja, pravila i preporuke mogu se mijenjati. Prije produkcijske izmjene provjerite aktualnu dokumentaciju.
Primijenite lekciju na stvarni projekt
Pošaljite postojeću konfiguraciju, cilj i problem koji želite riješiti. Dobit ćete prijedlog sljedećeg tehničkog ili operativnog koraka.