Bỏ qua đến nội dung
Qualityforeveryone
Bài 6 trên 7≈ 3 phút đọc
Xem tất cả bài học →

Quản trị, minh bạch và giám sát của con người

Phiên bản âm thanh của bài học này

Quản trị, minh bạch và giám sát của con người

Tốc độ đọc

Một hệ thống tự động không thể giải thích quyết định của mình là một trách nhiệm pháp lý, đặc biệt trong các ngành được quản lý chặt chẽ. Nếu một mô hình cách ly một lô hàng hoặc đóng một cuộc điều tra, mọi người phải có thể nhìn thấy lý do. Họ phải có thể thách thức lý luận và đảo ngược hành động nếu cần.

Quản trị tốt xác định những gì AI có thể tự quyết định, những gì cần phê duyệt và những gì nó không bao giờ được phép làm. Nó cũng bao gồm việc xác thực mô hình trước khi sử dụng, giám sát độ lệch hiệu suất và có một nhật ký kiểm tra hoàn chỉnh cho mọi hành động tự động. Những kiểm soát này phù hợp với tư duy dựa trên rủi ro được tìm thấy trong các tiêu chuẩn quản lý chất lượng và quản lý AI quốc tế được sử dụng rộng rãi.

Khái niệm trọng tâm
Tính tự chủ đáng tin cậy đòi hỏi các ranh giới quyết định được xác định rõ ràng, đầu ra có thể giải thích, mô hình được xác thực và một hồ sơ hoàn chỉnh về mọi hành động tự động.
Ví dụ thực tế
Hệ thống có thể tự động đưa một lô hàng nghi ngờ vào tình trạng tạm dừng, nhưng việc giải phóng hoặc loại bỏ lô hàng đó luôn cần sự chấp thuận của một kỹ sư chất lượng đủ trình độ, người có thể xem bằng chứng hỗ trợ của mô hình.

Quy trình tiêu chuẩn

  1. 1Phân loại quyết định thành tự động, cần phê duyệt và bị cấm.
  2. 2Xác thực từng mô hình dựa trên kết quả lịch sử đã biết trước khi triển khai.
  3. 3Ghi lại mọi hành động tự động cùng với đầu vào và lý luận của nó.
  4. 4Giám sát thường xuyên độ chính xác của mô hình để phát hiện độ lệch.
  5. 5Xem xét và cập nhật các ranh giới theo định kỳ.

Tóm tắt bài học

  • ✓Tính tự chủ phải có các giới hạn rõ ràng do con người thiết lập.
  • ✓Tính giải thích được và nhật ký kiểm tra giúp các quyết định của AI có thể bảo vệ được.
  • ✓Các mô hình cần giám sát liên tục vì độ chính xác của chúng có thể suy giảm.

Theo dõi tiến độ

Đăng nhập để lưu dấu hoàn thành bài học.