Bảo mật AI agent: quyền nhỏ nhất, phê duyệt và audit khi agent chạy trên máy của bạn

Vì sao agent cần mô hình bảo mật riêng

Agent nhận chỉ dẫn từ ngôn ngữ tự nhiên — kể cả từ nội dung nó đọc được trên web hay trong tài liệu. Nếu agent có quyền rộng, một chỉ dẫn độc hại (prompt injection) hoặc một lỗi suy luận có thể biến thành hành động thật trên máy của bạn.

Checklist cốt lõi

• Quyền nhỏ nhất: cấp từng khả năng cụ thể (đọc thư mục dự án, chạy test) thay vì shell toàn quyền.
• Kết nối chỉ chiều ra: agent trên máy chủ động kết nối tới control plane; máy không mở port nhận kết nối vào.
• Con người duyệt: thao tác có tác động (xóa dữ liệu, deploy, gửi tin ra ngoài) phải chờ người duyệt.
• Audit: ghi lại ai yêu cầu, agent làm gì, lúc nào và kết quả ra sao.
• Secret ngắn hạn: không đưa khóa dài hạn vào prompt; dùng token có phạm vi và hạn dùng.
• Tách dữ liệu theo tổ chức: một tổ chức không thể đọc dữ liệu của tổ chức khác.

Phòng chống prompt injection

Coi mọi nội dung agent đọc được (trang web, issue, email, file) là dữ liệu chứ không phải mệnh lệnh. Hành động nhạy cảm chỉ được kích hoạt từ người dùng thật, và luôn có bước duyệt trước khi gửi dữ liệu ra ngoài hoặc thay đổi cấu hình.

Mô hình của Heron

Heron Device Agent chạy trực tiếp trên máy của bạn, ghép nối bằng mã dùng một lần và chỉ kết nối ra ngoài. Thay vì remote shell, Heron cấp capability nhỏ theo chính sách, yêu cầu phê duyệt khi cần và ghi audit cho mọi thao tác. Ở cloud, dữ liệu tách theo tổ chức bằng PostgreSQL Row-Level Security, mật khẩu và mã ghép nối lưu dạng băm có salt, khu quản trị nằm sau Cloudflare Access.

Câu hỏi thường gặp

Bài liên quan

• Quản lý thiết bị từ xa cho AI agent: ghép nối, heartbeat và kết nối chỉ chiều ra
• AI agent là gì? Khác chatbot thế nào và dùng vào việc gì