Một hệ thống tự động không thể giải thích quyết định của mình là một trách nhiệm pháp lý, đặc biệt trong các ngành được quản lý chặt chẽ. Nếu một mô hình cách ly một lô hàng hoặc đóng một cuộc điều tra, mọi người phải có thể nhìn thấy lý do. Họ phải có thể thách thức lý luận và đảo ngược hành động nếu cần.
Quản trị tốt xác định những gì AI có thể tự quyết định, những gì cần phê duyệt và những gì nó không bao giờ được phép làm. Nó cũng bao gồm việc xác thực mô hình trước khi sử dụng, giám sát độ lệch hiệu suất và có một nhật ký kiểm tra hoàn chỉnh cho mọi hành động tự động. Những kiểm soát này phù hợp với tư duy dựa trên rủi ro được tìm thấy trong các tiêu chuẩn quản lý chất lượng và quản lý AI quốc tế được sử dụng rộng rãi.
Quy trình tiêu chuẩn
- 1Phân loại quyết định thành tự động, cần phê duyệt và bị cấm.
- 2Xác thực từng mô hình dựa trên kết quả lịch sử đã biết trước khi triển khai.
- 3Ghi lại mọi hành động tự động cùng với đầu vào và lý luận của nó.
- 4Giám sát thường xuyên độ chính xác của mô hình để phát hiện độ lệch.
- 5Xem xét và cập nhật các ranh giới theo định kỳ.
Tóm tắt bài học
- ✓Tính tự chủ phải có các giới hạn rõ ràng do con người thiết lập.
- ✓Tính giải thích được và nhật ký kiểm tra giúp các quyết định của AI có thể bảo vệ được.
- ✓Các mô hình cần giám sát liên tục vì độ chính xác của chúng có thể suy giảm.