Dự thảo nêu rõ, danh mục hệ thống trí tuệ nhân tạo có rủi ro cao được xác định trên cơ sở đánh giá các tiêu chí phân loại rủi ro để xác định các trường hợp sử dụng cụ thể, bảo đảm rõ ràng, minh bạch và khả thi trong áp dụng.

Hệ thống trí tuệ nhân tạo được đưa vào Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao khi đã xem xét các nguyên tắc sau đây:

a) Kết quả của hệ thống được sử dụng làm căn cứ hoặc yếu tố có ảnh hưởng đáng kể đến việc đưa ra quyết định ảnh hưởng đến quyền, nghĩa vụ hoặc lợi ích hợp pháp của tổ chức, cá nhân;

c) Được xác định theo mục đích và bối cảnh sử dụng cụ thể, không xác định đơn thuần theo công nghệ, thuật toán hoặc mô hình;

d) Sai lệch hoặc sự cố của hệ thống có thể gây hậu quả nghiêm trọng, khó khắc phục đối với cá nhân, xã hội hoặc lợi ích công cộng;

đ) Có phạm vi triển khai hoặc quy mô ảnh hưởng rộng, không mang tính cá biệt;

e) Rủi ro không thể được kiểm soát đầy đủ chỉ bằng các quy định pháp luật có liên quan khác;

g) Có thể xác định và áp dụng thống nhất các nghĩa vụ quản lý đối với nhóm hệ thống đó.

Tiêu chí xác định hệ thống trí tuệ nhân tạo có rủi ro cao

Theo dự thảo, tiêu chí xác định hệ thống trí tuệ nhân tạo có rủi ro cao bao gồm:

1. Nhóm tiêu chí về tác động đến quyền con người và quyền, lợi ích hợp pháp của tổ chức, cá nhân, bao gồm khả năng hệ thống trí tuệ nhân tạo ảnh hưởng trực tiếp, đáng kể đến quyền sống, quyền được bảo vệ sức khỏe, quyền tự do cá nhân, quyền riêng tư, quyền bình đẳng, không phân biệt đối xử, quyền tiếp cận các dịch vụ thiết yếu hoặc các quyền, lợi ích hợp pháp khác theo quy định của pháp luật.

2. Nhóm tiêu chí về an toàn, an ninh và lợi ích công cộng, bao gồm trường hợp hệ thống trí tuệ nhân tạo có khả năng gây ảnh hưởng nghiêm trọng đến trật tự, an toàn xã hội, an ninh mạng, an toàn thông tin, lợi ích công cộng hoặc có nguy cơ bị lạm dụng, thao túng để xâm phạm an ninh quốc gia; và trường hợp hệ thống trí tuệ nhân tạo được sử dụng như thành phần bảo đảm an toàn trong sản phẩm, hàng hóa có mức độ rủi ro cao.

3. Nhóm tiêu chí về lĩnh vực và bối cảnh sử dụng của hệ thống, bao gồm việc hệ thống trí tuệ nhân tạo được sử dụng trong các lĩnh vực thiết yếu hoặc lĩnh vực có ảnh hưởng trực tiếp đến lợi ích công cộng, đời sống xã hội, đặc biệt là các lĩnh vực như y tế, giáo dục, lao động, việc làm, tài chính, tín dụng, bảo hiểm, giao thông, năng lượng, hạ tầng thiết yếu, quản lý nhà nước, tư pháp; hoặc được sử dụng cho hoạt động quản lý nhà nước và cung cấp dịch vụ công.

4. Nhóm tiêu chí về mức độ tự động hóa và vai trò kiểm soát của con người, bao gồm mức độ hệ thống trí tuệ nhân tạo tự động đưa ra quyết định hoặc khuyến nghị có ảnh hưởng đáng kể đến việc đưa ra quyết định; khả năng giám sát, can thiệp, điều chỉnh hoặc dừng hệ thống của con người trong quá trình vận hành và sử dụng.

5. Nhóm tiêu chí về phạm vi người sử dụng và quy mô ảnh hưởng của hệ thống, bao gồm số lượng người bị ảnh hưởng trực tiếp hoặc gián tiếp, phạm vi triển khai của hệ thống, khả năng gây tác động trên diện rộng, tác động dây chuyền hoặc hậu quả kéo dài, khó khắc phục khi hệ thống xảy ra sai lệch, sự cố hoặc bị lạm dụng.

Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao

Dự thảo nêu rõ, danh mục hệ thống trí tuệ nhân tạo có rủi ro cao bao gồm 4 nhóm sau:

Nhóm I: Hệ thống trí tuệ nhân tạo tác động đến quyền con người.

Nhóm II: Hệ thống trí tuệ nhân tạo ảnh hưởng đến an toàn, an ninh.

Nhóm III: Hệ thống trí tuệ nhân tạo trong các lĩnh vực thiết yếu, liên quan mật thiết tới lợi ích công cộng.

Nhóm IV: Hệ thống trí tuệ nhân tạo có quy mô ảnh hưởng lớn hoặc khó khắc phục.