Safety & governance untuk AI Agent.
AI Agent bukan sekadar jawab chat. Bila dia ada tools, dia boleh buat perubahan sebenar. Jadi guardrails mesti wujud sebelum production.
Blocked actions
AI tak boleh delete data, bayar invoice, ubah DNS/server, blast customer, atau scale ads tanpa approval jelas.
Human approval
Mesej customer sensitif, refund, complaint, payment, production change perlu manusia approve.
Audit trail
Simpan trigger, data dibaca, draft AI, siapa approve, action dibuat, masa, dan result.
Governance level.
Senang untuk owner decide apa AI boleh buat.
Low risk — AI boleh buat
Research public info, ringkas dokumen, draft content, cadang idea, buat checklist.
Medium risk — AI cadang, manusia approve
Draft email customer, update status CRM, create calendar invite, prepare quotation draft.
High risk — manusia execute
Payment, delete database, DNS/server, legal reply, medical/financial advice, ads budget besar.
Rule mudah
AI boleh baca dan draft. AI boleh cadang. Tapi AI tidak boleh buat tindakan yang boleh rugikan duit, reputasi, data, atau akses sistem tanpa manusia approve.
Sumber rasmi: Hermes Security.