Hệ thống trí tuệ nhân tạo có rủi ro cao là gì?

1. Hệ thống trí tuệ nhân tạo có rủi ro cao là gì?

Theo quy định tại khoản 2 Điều 3 Luật Trí tuệ nhân tạo 2025 thì thuật ngữ “hệ thống trí tuệ nhân tạo”  được định nghĩa như sau:

“Hệ thống trí tuệ nhân tạo là hệ thống dựa trên máy, được thiết kế để thực hiện các năng lực trí tuệ nhân tạo với các mức độ tự chủ khác nhau, có khả năng tự thích nghi sau khi được triển khai; căn cứ vào các mục tiêu được xác định rõ ràng hoặc được hình thành một cách ngầm định, hệ thống suy luận từ dữ liệu đầu vào để tạo ra các đầu ra như dự đoán, nội dung, khuyến nghị hoặc quyết định có thể gây ảnh hưởng tới môi trường vật lý hoặc môi trường số”.

Theo đó, Điều 9 Luật Trí tuệ nhân tạo 2025 và khoản 3 Điều 6 Nghị định số 142/2026/NĐ-CP phân loại hệ thống trí tuệ nhân tạo theo 03 mức độ rủi ro sau đây: (i) Hệ thống trí tuệ nhân tạo có rủi ro cao, (ii) Hệ thống trí tuệ nhân tạo có rủi ro trung bình, (iii) Hệ thống trí tuệ nhân tạo có rủi ro thấp.
Trong đó, hệ thống trí tuệ nhân tạo có rủi ro cao là hệ thống:

• Có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng, an ninh quốc gia.
• Thuộc Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao do Thủ tướng Chính phủ ban hành kèm theo Quyết định số 33/2026/QĐ-TTg ngày 30/6/2026 của Thủ tướng Chính phủ.

2. Tiêu chí xác định hệ thống trí tuệ nhân tạo có rủi ro cao gồm những gì?

Việc xác định hệ thống AI có rủi ro cao được thực hiện dựa trên các tiêu chí về mức độ tác động, lĩnh vực sử dụng, phạm vi người sử dụng và quy mô ảnh hưởng.

Theo Điều 8 Nghị định 142/2026/NĐ-CP, hệ thống trí tuệ nhân tạo được xác định là có rủi ro cao khi đáp ứng một hoặc nhiều tiêu chí sau:

2.1. Tiêu chí về mức độ tác động của hệ thống AI

Hệ thống AI được xem xét là có rủi ro cao nếu mức độ tác động của hệ thống có thể gây thiệt hại đối với:

• Tính mạng;
• Sức khỏe;
• Tài sản;
• Quyền con người;
• Lợi ích quốc gia;
• Lợi ích công cộng;
• An ninh quốc gia.
• Ngoài ra, việc đánh giá còn căn cứ vào:
• Mức độ tự động của hệ thống;
• Mức độ hỗ trợ ra quyết định cuối cùng;
• Khả năng giám sát và can thiệp của con người trong quá trình hệ thống thực hiện hành động. 

2.2. Tiêu chí về lĩnh vực sử dụng hệ thống AI

Hệ thống AI được xem xét có rủi ro cao nếu được triển khai trong lĩnh vực thiết yếu theo quy định của Luật Trí tuệ nhân tạo hoặc các lĩnh vực liên quan trực tiếp đến lợi ích công cộng. 

Luật Trí tuệ nhân tạo 2025 quy định việc ứng dụng AI trong các lĩnh vực thiết yếu có tác động trực tiếp đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của con người hoặc trật tự, an toàn xã hội phải được quản lý rủi ro ở mức độ chặt chẽ hơn. Một số lĩnh vực được đề cập gồm y tế, giáo dục.

2.3. Tiêu chí về phạm vi người sử dụng và quy mô ảnh hưởng

Hệ thống AI có thể được xác định là rủi ro cao nếu có:

• Phạm vi người sử dụng lớn;
• Quy mô đối tượng chịu tác động lớn;
• Mức độ kết nối với hệ thống hạ tầng kỹ thuật quan trọng cao. 
• Các tiêu chí này nhằm đánh giá khả năng tác động lan rộng của hệ thống AI khi được đưa vào vận hành thực tế.

3. Hệ thống AI nào không được đưa vào Danh mục rủi ro cao?

Không phải mọi hệ thống đáp ứng một số tiêu chí tác động đều mặc nhiên được đưa vào Danh mục hệ thống AI có rủi ro cao.

Theo khoản 2 Điều 8 Nghị định 142/2026/NĐ-CP, hệ thống AI mặc dù thuộc các tiêu chí xác định rủi ro cao nhưng không được đề xuất đưa vào

Danh mục hệ thống AI có rủi ro cao nếu thuộc một trong các trường hợp sau:

• Chỉ thực hiện các tác vụ thu thập, xử lý, chuẩn hóa, phân loại, dịch thuật hoặc cải thiện chất lượng dữ liệu; không trực tiếp tạo lập quyết định làm ảnh hưởng đến quyền và lợi ích hợp pháp của tổ chức, cá nhân. 
• Có cơ chế kỹ thuật và quy trình vận hành bảo đảm sự giám sát thực chất của con người, theo đó người có thẩm quyền có khả năng xem xét độc lập, can thiệp, từ chối hoặc thay đổi quyết định của hệ thống trước khi quyết định có hiệu lực. 
• Chỉ được sử dụng phục vụ hoạt động quản trị, vận hành nội bộ của tổ chức, doanh nghiệp và không trực tiếp tác động đến quyền, nghĩa vụ pháp lý hoặc lợi ích hợp pháp của tổ chức, cá nhân bên ngoài tổ chức. 
• Chỉ thực hiện chức năng phân tích, dự báo, đánh giá, khuyến nghị mang tính tham khảo; nhà cung cấp và bên triển khai không sử dụng kết quả đầu ra làm căn cứ duy nhất để ra quyết định cuối cùng. 

4. Ai có trách nhiệm phân loại hệ thống trí tuệ nhân tạo có rủi ro cao?

Theo Điều 10 Luật Trí tuệ nhân tạo 2025, nhà cung cấp có trách nhiệm tự phân loại hệ thống trí tuệ nhân tạo trước khi đưa hệ thống vào sử dụng. Đối với hệ thống được phân loại là rủi ro trung bình hoặc rủi ro cao phải có hồ sơ phân loại kèm theo. 

Cụ thể hơn, theo Điều 6 Nghị định 142/2026/NĐ-CP, nhà cung cấp phải tự thực hiện việc phân loại hệ thống AI trước khi đưa vào sử dụng và chịu trách nhiệm trước pháp luật về tính chính xác, trung thực của kết quả phân loại. 

Trường hợp bên triển khai sửa đổi, tích hợp, thay đổi chức năng hoặc mục đích sử dụng của hệ thống làm phát sinh rủi ro mới hoặc rủi ro cao hơn so với kết quả phân loại ban đầu, bên triển khai phải phối hợp với nhà cung cấp để rà soát, phân loại lại mức độ rủi ro. 

5. Hệ thống trí tuệ nhân tạo có rủi ro cao phải đáp ứng yêu cầu quản lý nào?

Hệ thống AI có rủi ro cao chịu cơ chế quản lý chặt chẽ hơn so với hệ thống rủi ro trung bình và rủi ro thấp.

5.1. Phải đánh giá sự phù hợp trước khi đưa vào sử dụng

Theo Điều 13 Luật Trí tuệ nhân tạo 2025, hệ thống AI có rủi ro cao phải được đánh giá sự phù hợp trước khi đưa vào sử dụng hoặc khi có thay đổi đáng kể trong quá trình sử dụng. 

Kết quả đánh giá sự phù hợp là điều kiện để hệ thống AI có rủi ro cao được phép đưa vào sử dụng. Tổ chức, cá nhân có hệ thống đã được đánh giá phải duy trì sự phù hợp và công khai thông tin theo quy định. 

5.2. Phải thiết lập hệ thống quản lý rủi ro

Theo Điều 15 Nghị định 142/2026/NĐ-CP, nhà cung cấp hệ thống AI có rủi ro cao phải thiết lập và duy trì hệ thống quản lý rủi ro phù hợp với mục đích sử dụng, phạm vi triển khai và mức độ rủi ro của hệ thống. 

Hệ thống quản lý rủi ro tối thiểu bao gồm:

• Xác định và đánh giá các rủi ro có thể phát sinh đối với quyền con người, an toàn, an ninh hoặc lợi ích công cộng;
• Bảo đảm chất lượng, tính phù hợp và tính đại diện của dữ liệu huấn luyện, dữ liệu kiểm thử, dữ liệu đánh giá;
• Thiết kế và duy trì cơ chế giám sát, can thiệp của con người;
• Áp dụng biện pháp kỹ thuật hoặc quản lý để phòng ngừa, hạn chế, kiểm soát rủi ro;
• Rà soát, cập nhật biện pháp quản lý rủi ro khi hệ thống có thay đổi đáng kể. 

Trên đây là thông tin về “Hệ thống trí tuệ nhân tạo có rủi ro cao là gì?”. Vui lòng xem chi tiết Luật Trí tuệ nhân tạo số 134/2025/QH15 và Nghị định số 142/2026/NĐ-CP trên LuatVietnam.vn và các tính năng liên quan như: Tình trạng hiệu lực, Lược đồ...