Dự thảo Quyết định Ban hành Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao

STT

Mô tả mục đích sử dụng

Ngưỡng áp dụng/Ghi chú

Nhóm I: Hệ thống trí tuệ nhân tạo tác động đến quyền con người

1

Hệ thống trí tuệ nhân tạo được dùng để phân loại, xếp hạng hoặc dự báo về cá nhân, nhằm phục vụ các quyết định tác động trực tiếp đến quyền và lợi ích hợp pháp của đối tượng đó.

Áp dụng khi hệ thống được triển khai trên diện rộng hoặc không mang tính cá biệt, trong đó kết quả được sử dụng làm căn cứ trực tiếp cho quyết định ảnh hưởng đến quyền, lợi ích hợp pháp của cá nhân đối với từ 1.000 cá nhân/tháng hoặc 10.000 cá nhân/năm trở lên, hoặc khi tỷ lệ quyết định dựa trực tiếp vào kết quả của hệ thống từ 30% trở lên.

2

Hệ thống trí tuệ nhân tạo được sử dụng trong tuyển dụng, sử dụng lao động, bao gồm:

a) sàng lọc, đánh giá hồ sơ ứng viên;

b) đánh giá hiệu suất, kỷ luật, chấm dứt hợp đồng lao động;

Trong đó, kết quả ảnh hưởng trực tiếp đến quyền làm việc, thu nhập của người lao động.

Áp dụng khi hệ thống được sử dụng trong quy trình tuyển dụng, đánh giá, kỷ luật hoặc chấm dứt hợp đồng ở quy mô từ 500 người lao động/năm trở lên, hoặc khi kết quả của hệ thống được sử dụng làm căn cứ chính hoặc yếu tố quyết định đối với việc tuyển dụng, đánh giá, chấm dứt hợp đồng lao động.

3

Hệ thống trí tuệ nhân tạo thực hiện nhận dạng sinh trắc học từ xa, phân loại sinh trắc học hoặc xác thực định danh dựa trên sinh trắc học trong không gian công cộng hoặc trên diện rộng.

Hệ thống phải chứng nhận sự phù hợp trước khi đưa vào sử dụng.

Nhóm II: Hệ thống trí tuệ nhân tạo ảnh hưởng đến an toàn, an ninh

4

Hệ thống trí tuệ nhân tạo được sử dụng như thành phần bảo đảm an toàn trong sản phẩm, hàng hóa có mức độ rủi ro cao do các Bộ ngành quy định theo pháp luật về sản phẩm, hàng hóa.

Hệ thống phải chứng nhận sự phù hợp trước khi đưa vào sử dụng.

5

Hệ thống trí tuệ nhân tạo được sử dụng trong lĩnh vực bảo đảm an ninh quốc gia, trật tự, an toàn xã hội, khi có khả năng:

a) giám sát, theo dõi cá nhân trên diện rộng;

b) phân tích, dự báo rủi ro an ninh;

Trong đó, kết quả ảnh hưởng trực tiếp đến quyền tự do cá nhân.

Áp dụng khi hệ thống có khả năng giám sát, theo dõi cá nhân trên diện rộng hoặc phân tích, dự báo rủi ro an ninh, trong đó kết quả được sử dụng làm căn cứ cho hoạt động quản lý, kiểm soát liên quan đến từ 1.000 đối tượng trở lên, hoặc được triển khai trên từ 02 địa bàn hành chính cấp tỉnh trở lên.

Nhóm III: Hệ thống trí tuệ nhân tạo trong các lĩnh vực thiết yếu, liên quan mật thiết tới lợi ích công cộng

6

Hệ thống trí tuệ nhân tạo kiểm soát, vận hành hoặc giám sát hạ tầng thiết yếu, bao gồm:

a) giao thông;

b) năng lượng;

c) cấp nước;

d) viễn thông;

Trong đó, khi có sự cố hoặc sai lệch có thể gây hậu quả nghiêm trọng trên diện rộng.

Áp dụng khi hệ thống được tích hợp vào quy trình vận hành hoặc giám sát chính thức của hạ tầng thiết yếu, trong đó sai lệch hoặc sự cố có thể gây gián đoạn dịch vụ trên diện rộng, ảnh hưởng đến từ 10.000 người sử dụng trở lên hoặc phạm vi từ 02 đơn vị hành chính cấp tỉnh trở lên.

7

Hệ thống trí tuệ nhân tạo hỗ trợ chẩn đoán, điều trị, phân loại bệnh nhân, phân bổ nguồn lực y tế, khi kết quả có thể ảnh hưởng trực tiếp đến tính mạng, sức khỏe con người.

Hệ thống phải chứng nhận sự phù hợp trước khi đưa vào sử dụng.

8

Hệ thống trí tuệ nhân tạo được sử dụng trong giáo dục và đào tạo, bao gồm:

a) đánh giá kết quả học tập;

b) xếp lớp, tuyển sinh;

c) xác định cơ hội tiếp cận giáo dục.

Trong đó, kết quả ảnh hưởng trực tiếp đến quyền học tập của người học.

Áp dụng khi hệ thống được sử dụng để đánh giá kết quả học tập, xếp lớp, tuyển sinh hoặc xác định cơ hội tiếp cận giáo dục đối với từ 500 người học/năm trở lên, hoặc khi kết quả được sử dụng làm căn cứ chính trong quyết định liên quan đến quyền học tập.

9

Hệ thống trí tuệ nhân tạo trong lĩnh vực tài chính, tín dụng, bảo hiểm, được sử dụng để:

a) xét duyệt tín dụng;

b) định giá bảo hiểm;

c) đánh giá rủi ro tài chính cá nhân hoặc tổ chức;

Trong đó, kết quả ảnh hưởng trực tiếp đến quyền tiếp cận dịch vụ tài chính.

Áp dụng khi hệ thống được sử dụng để xét duyệt tín dụng, định giá bảo hiểm hoặc đánh giá rủi ro tài chính, trong đó kết quả ảnh hưởng trực tiếp đến quyền tiếp cận dịch vụ tài chính của từ 1.000 khách hàng/năm trở lên, hoặc khi quyết định được tự động hóa từ 30% trở lên.

10

Hệ thống trí tuệ nhân tạo hỗ trợ hoặc tham gia quá trình ra quyết định hành chính, khi kết quả được sử dụng làm căn cứ xác định quyền, nghĩa vụ pháp lý của tổ chức, cá nhân.

Áp dụng khi hệ thống hỗ trợ hoặc tham gia vào quy trình ra quyết định hành chính, trong đó kết quả được sử dụng làm căn cứ xác định quyền, nghĩa vụ pháp lý của tổ chức, cá nhân, không phụ thuộc quy mô triển khai.

11

Hệ thống trí tuệ nhân tạo hỗ trợ hoạt động tư pháp, bao gồm:

a) phân tích hồ sơ vụ việc;

b) đánh giá rủi ro tái phạm;

c) đề xuất mức xử lý.

Trong đó, kết quả ảnh hưởng trực tiếp đến quyền con người, quyền công dân.

Áp dụng khi hệ thống hỗ trợ phân tích hồ sơ, đánh giá rủi ro tái phạm hoặc đề xuất mức xử lý, trong đó kết quả được sử dụng làm căn cứ tham khảo chính thức và có khả năng ảnh hưởng trực tiếp đến quyền con người, quyền công dân, không phụ thuộc số lượng vụ việc.

Nhóm IV: Hệ thống trí tuệ nhân tạo có quy mô ảnh hưởng lớn hoặc khó khắc phục

12

Hệ thống trí tuệ nhân tạo được triển khai trên phạm vi rộng, ảnh hưởng đến số lượng lớn người dân, trong đó:

a) sai lệch hoặc sự cố có khả năng gây tác động dây chuyền;

b) hậu quả kéo dài, khó khắc phục bằng biện pháp thông thường.

Áp dụng khi hệ thống được triển khai trên phạm vi từ 02 đơn vị hành chính cấp tỉnh trở lên hoặc ảnh hưởng đến từ 50.000 người sử dụng/người bị tác động, trong đó sai lệch hoặc sự cố có khả năng gây tác động dây chuyền hoặc hậu quả kéo dài, khó khắc phục.

13

Hệ thống trí tuệ nhân tạo sử dụng dữ liệu cá nhân nhạy cảm hoặc dữ liệu có yêu cầu bảo mật cao, khi kết quả xử lý có thể gây tổn hại nghiêm trọng đến quyền riêng tư, an toàn thông tin hoặc lợi ích hợp pháp của tổ chức, cá nhân.

Áp dụng khi hệ thống xử lý dữ liệu cá nhân nhạy cảm hoặc dữ liệu có yêu cầu bảo mật cao, trong đó kết quả xử lý được sử dụng làm căn cứ cho quyết định ảnh hưởng đến quyền, lợi ích hợp pháp của tổ chức, cá nhân, không phụ thuộc quy mô người sử dụng.

STT

Mô tả mục đích sử dụng

Ngưỡng áp dụng/Ghi chú

1

Hệ thống trí tuệ nhân tạo là thành phần thuộc về công trình hoặc hệ thống khác mà pháp luật chuyên ngành bắt buộc phải chứng nhận sự phù hợp hoặc kiểm định trước khi đưa vào sử dụng.

2

Hệ thống trí tuệ nhân tạo thực hiện chức năng của sản phẩm, hàng hóa khác bắt buộc phải chứng nhận sự phù hợp hoặc kiểm định trước khi đưa vào sử dụng theo pháp luật chuyên ngành.

3

Hệ thống trí tuệ nhân tạo được sử dụng như thành phần bảo đảm an toàn trong sản phẩm, hàng hóa có mức độ rủi ro cao do các Bộ ngành quy định theo pháp luật về sản phẩm, hàng hóa.

Hệ thống phải chứng nhận sự phù hợp trước khi đưa vào sử dụng.