Vai trò của kiểm toán nội bộ trong Đạo luật trí tuệ nhân tạo mới của Liên minh Châu Âu

Phạm vi và khả năng áp dụng

Đạo luật AI của EU cung cấp định nghĩa rõ ràng về hệ thống AI, bao gồm việc học máy, phương pháp tiếp cận dựa trên logic và kiến thức, và các hệ thống có khả năng suy luận từ dữ liệu. Kiểm toán viên nội bộ phải đảm bảo rằng các hệ thống AI của tổ chức của họ phù hợp với hoặc có liên kết với các định nghĩa này. 

Áp dụng phương pháp tiếp cận dựa trên rủi ro

Đạo luật AI của EU áp dụng cách tiếp cận dựa trên rủi ro bằng cách phân loại các hệ thống AI dựa trên mức độ rủi ro mà chúng gây ra cho sức khỏe, an toàn và quyền cơ bản của con người. Một trong những bước đầu tiên cho kiểm toán viên nội bộ là xác minh rằng tổ chức của họ không tham gia vào các điều bị cấm. Việc xác định, hiểu và đánh giá các hệ thống AI có rủi ro cao, đặc biệt là những hệ thống được sử dụng trong các lĩnh vực quan trọng như chăm sóc sức khỏe, thực thi pháp luật và dịch vụ thiết yếu, là rất quan trọng.

Đáp ứng các yêu cầu bắt buộc đối với các hệ thống AI có rủi ro cao

Các hệ thống AI có rủi ro cao phải tuân theo các yêu cầu nghiêm ngặt theo Đạo luật AI. Kiểm toán viên nội bộ  phải đánh giá rằng các hệ thống quản lý rủi ro đã được triển khai. Các hệ thống này phải bao gồm các quy trình để xác định, đánh giá và giảm thiểu rủi ro liên quan đến các hệ thống AI có rủi ro cao. Dữ liệu kiểm toán nội bộ được các hệ thống AI sử dụng cũng rất quan trọng, vì vậy việc đánh giá cấu trúc và quy trình quản trị dữ liệu của tổ chức là điều cần thiết. Kiểm toán viên phải đảm bảo rằng dữ liệu chất lượng cao được sử dụng, tài liệu phải được lưu trữ và các thông lệ lưu giữ hồ sơ áp dụng được tuân thủ. 

Đảm bảo tuân thủ và giám sát liên tục

Việc giám sát liên tục là cần thiết để đảm bảo việc tuân thủ. Kiểm toán viên nội bộ phải xác minh rằng các hệ thống AI có rủi ro cao trải qua các đánh giá phù hợp và hiểu khi nào cần đánh giá bên ngoài. Kiểm toán viên cũng nên đánh giá xem có cơ chế phù hợp để giám sát liên tục. Bằng cách chủ động tiếp cận, kiểm toán viên có thể giúp đảm bảo rằng các rủi ro tiềm ẩn  đang được giải quyết và các hệ thống này vẫn tuân thủ trong suốt vòng đời của chúng.

Duy trì sự giám sát của con người

Để đảm bảo rằng các tổ chức có thể ngăn ngừa hậu quả không mong muốn và duy trì lòng tin vào hệ thống AI của mình, vai trò giám sát của con người được đưa vào như một khía cạnh quan trọng của Đạo luật AI của EU. Kiểm toán viên nội bộ có thể đảm bảo rằng các hệ thống AI được thiết kế để tăng cường sự quyết định từ con người bằng cách đưa các biện pháp kiểm soát của con người trong suốt quá trình.  

Dữ liệu sinh trắc học

Đạo luật AI của EU áp đặt các hạn chế cụ thể đối với việc sử dụng dữ liệu sinh trắc học và hệ thống nhận dạng sinh trắc học từ xa. Kiểm toán viên nội bộ cần đảm bảo rằng việc sử dụng dữ liệu sinh trắc học để nhận dạng hoặc phân loại phải tuân thủ các hạn chế này và chỉ giới hạn trong các tình huống được phép. Ngoài ra còn có các quy tắc cụ thể quản lý việc sử dụng hệ thống nhận dạng sinh trắc học từ xa. Kiểm toán viên sẽ cần hiểu các quy tắc được áp dụng đối với tổ chức của họ và đảm bảo việc tuân thủ.

Về đạo đức và quyền cơ bản

Đạo luật AI của Liên minh Châu Âu tập trung về vấn đề đạo đức và bảo vệ các quyền cơ bản. Để đạt được mục đích đó, các kiểm toán viên nội bộ nên đánh giá xem các hệ thống AI có được phát triển và sử dụng theo cách không phân biệt đối xử, thúc đẩy bình đẳng và khuyến khích sự đa dạng văn hóa. Một số lĩnh vực mà các kiểm toán viên nội bộ cần cân nhắc xung quanh việc tôn trọng các quyền cơ bản bao gồm quyền riêng tư, bảo vệ dữ liệu, tự do ngôn luận và không phân biệt đối xử.

Tài liệu và báo cáo

Tài liệu và báo cáo là rất quan trọng để chứng minh sự tuân thủ Đạo luật AI của EU. Kiểm toán viên nội bộ phải đảm bảo rằng các tài liệu kỹ thuật chi tiết được lưu trữ cho tất cả các hệ thống AI, cung cấp thông tin rõ ràng về quá trình phát triển, hoạt động và các biện pháp tuân thủ của các tổ chức. Ngoài ra, kiểm toán viên phải xác minh rằng tổ chức của họ tuân thủ các nghĩa vụ báo cáo theo quy định.

Khi công nghệ AI tiếp tục phát triển, các kiểm toán viên nội bộ đóng vai trò quan trọng trong việc đảm bảo rằng tổ chức của họ tuân thủ các quy định phức tạp của Đạo luật AI của EU. Bằng cách tập trung vào các một số khía cạnh chính đã nêu trên, các kiểm toán viên có thể giúp tổ chức của họ quản lý rủi ro liên quan đến AI một cách phù hợp, triển khai các hệ thống AI một cách có trách nhiệm và phù hợp với đạo đức theo các yêu cầu mới.