Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao (đề xuất)

1

AI phân loại, xếp hạng, dự báo về cá nhân để phục vụ quyết định ảnh hưởng trực tiếp đến quyền, lợi ích hợp pháp

Từ 1.000 cá nhân/tháng hoặc 10.000 cá nhân/năm; hoặc ≥ 30% quyết định dựa trực tiếp vào kết quả hệ thống

2

AI sử dụng trong tuyển dụng, đánh giá, kỷ luật, chấm dứt hợp đồng lao động

Từ 500 người lao động/năm; hoặc kết quả là căn cứ chính quyết định

3

AI nhận dạng sinh trắc học từ xa, phân loại sinh trắc học trong không gian công cộng

Phải chứng nhận trước khi sử dụng

4

AI là thành phần bảo đảm an toàn trong sản phẩm, hàng hóa rủi ro cao

Phải chứng nhận trước khi sử dụng

5

AI trong lĩnh vực an ninh quốc gia, trật tự an toàn xã hội (giám sát diện rộng, dự báo rủi ro an ninh)

Từ 1.000 đối tượng trở lên; hoặc triển khai từ 02 tỉnh trở lên

6

AI kiểm soát, vận hành, giám sát hạ tầng thiết yếu (giao thông, năng lượng, nước, viễn thông)

Ảnh hưởng ≥ 10.000 người; hoặc ≥ 02 tỉnh

7

AI hỗ trợ chẩn đoán, điều trị, phân loại bệnh nhân, phân bổ nguồn lực y tế

Phải chứng nhận trước khi sử dụng

8

AI trong giáo dục (đánh giá, xếp lớp, tuyển sinh)

≥ 500 người học/năm; hoặc là căn cứ chính quyết định

9

AI trong tài chính, tín dụng, bảo hiểm (xét duyệt tín dụng, định giá bảo hiểm…)

≥ 1.000 khách hàng/năm; hoặc tự động hóa ≥ 30%

10

AI hỗ trợ hoặc tham gia ra quyết định hành chính

Không phụ thuộc quy mô

11

AI hỗ trợ hoạt động tư pháp (phân tích hồ sơ, đánh giá rủi ro tái phạm…)

Không phụ thuộc số lượng vụ việc

12

AI triển khai trên diện rộng, có khả năng gây tác động dây chuyền, hậu quả kéo dài

≥ 02 tỉnh hoặc ≥ 50.000 người bị ảnh hưởng

13

AI xử lý dữ liệu cá nhân nhạy cảm hoặc dữ liệu yêu cầu bảo mật cao

Không phụ thuộc quy mô

STT

Mô tả mục đích sử dụng

Ngưỡng áp dụng/Ghi chú

1

Hệ thống trí tuệ nhân tạo là thành phần thuộc về công trình hoặc hệ thống khác mà pháp luật chuyên ngành bắt buộc phải chứng nhận sự phù hợp hoặc kiểm định trước khi đưa vào sử dụng.

2

Hệ thống trí tuệ nhân tạo thực hiện chức năng của sản phẩm, hàng hóa khác bắt buộc phải chứng nhận sự phù hợp hoặc kiểm định trước khi đưa vào sử dụng theo pháp luật chuyên ngành.

3

Hệ thống trí tuệ nhân tạo được sử dụng như thành phần bảo đảm an toàn trong sản phẩm, hàng hóa có mức độ rủi ro cao do các Bộ ngành quy định theo pháp luật về sản phẩm, hàng hóa.

Hệ thống phải chứng nhận sự phù hợp trước khi đưa vào sử dụng.