Hệ thống trí tuệ nhân tạo rủi ro trung bình là gì?

1. Hệ thống trí tuệ nhân tạo rủi ro trung bình là gì?

Theo Điều 3 Luật Trí tuệ nhân tạo 2025, số 134/2025/QH15 quy định:

- Trí tuệ nhân tạo là việc thực hiện bằng điện tử các năng lực trí tuệ của con người, bao gồm học tập, suy luận, nhận thức, phán đoán và hiểu ngôn ngữ tự nhiên.

- Hệ thống trí tuệ nhân tạo là hệ thống dựa trên máy, được thiết kế để thực hiện các năng lực trí tuệ nhân tạo với các mức độ tự chủ khác nhau, có khả năng tự thích nghi sau khi được triển khai; căn cứ vào các mục tiêu được xác định rõ ràng hoặc được hình thành một cách ngầm định, hệ thống suy luận từ dữ liệu đầu vào để tạo ra các đầu ra như dự đoán, nội dung, khuyến nghị hoặc quyết định có thể gây ảnh hưởng tới môi trường vật lý hoặc môi trường số.

Đồng thời, theo điểm b khoản 1 Điều 9 Luật Trí tuệ nhân tạo 2025, số 134/2025/QH15, hệ thống trí tuệ nhân tạo có rủi ro trung bình là hệ thống có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do không nhận biết được chủ thể tương tác là hệ thống trí tuệ nhân tạo hoặc nội dung do hệ thống tạo ra;

2. Điều kiện để xác định hệ thống trí tuệ nhân tạo là có rủi ro trung bình là gì?

Theo khoản 1 Điều 9 Nghị định 142/2026/NĐ-CP, nhà cung cấp có trách nhiệm phân loại hệ thống trí tuệ nhân tạo vào nhóm rủi ro trung bình khi hệ thống đó đáp ứng đồng thời các điều kiện sau đây:

- Không thuộc Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao do Thủ tướng Chính phủ ban hành theo quy định tại khoản 4 Điều 13 của Luật Trí tuệ nhân tạo;

- Có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do người sử dụng không nhận biết được chủ thể tương tác là hệ thống trí tuệ nhân tạo hoặc nội dung do hệ thống tạo ra theo quy định tại điểm b khoản 1 Điều 9 của Luật Trí tuệ nhân tạo.

3. Hồ sơ phân loại rủi ro của hệ thống trí tuệ nhân tạo có rủi trung bình gồm những gì?

Theo Điều 12 Nghị định 142/2026/NĐ-CP, đối với hệ thống trí tuệ nhân tạo có rủi ro trung bình, nhà cung cấp phải bảo đảm hồ sơ phân loại rủi ro bao gồm các tài liệu sau đây:

- Thông tin nhận diện hệ thống, bao gồm: tên hệ thống; phiên bản; mã định danh nội bộ hoặc mã định danh do cơ quan nhà nước có thẩm quyền cấp; tên, địa chỉ và thông tin liên hệ của nhà cung cấp;

- Mô tả hệ thống và bối cảnh sử dụng: mục đích sử dụng; chức năng chính; kiến trúc hệ thống ở mức chức năng, nghiệp vụ; phạm vi triển khai; nhóm người sử dụng và người bị ảnh hưởng;

- Thông tin về dữ liệu: Mô tả khái quát loại dữ liệu đầu vào chủ yếu được sử dụng để vận hành hệ thống;

- Nội dung quản lý rủi ro: Tóm tắt các biện pháp quản lý rủi ro, bảo đảm an toàn và tính minh bạch của hệ thống.

4. Các nguyên tắc cơ bản trong hoạt động trí tuệ nhân tạo được quy định như thế nào?

Theo Điều 4 Luật Trí tuệ nhân tạo 2025, số 134/2025/QH15, các nguyên tắc cơ bản trong hoạt động trí tuệ nhân tạo được quy định như sau:

- Lấy con người làm trung tâm; bảo đảm quyền con người, quyền riêng tư, lợi ích quốc gia, lợi ích công cộng và an ninh quốc gia; tuân thủ Hiến pháp và pháp luật.

- Trí tuệ nhân tạo phục vụ con người, không thay thế thẩm quyền và trách nhiệm của con người. 

Bảo đảm duy trì sự kiểm soát và khả năng can thiệp của con người đối với mọi quyết định và hành vi của hệ thống trí tuệ nhân tạo; an toàn hệ thống, an ninh dữ liệu và bảo mật thông tin; khả năng kiểm tra và giám sát quá trình phát triển và vận hành hệ thống trí tuệ nhân tạo.

- Bảo đảm công bằng, minh bạch, không thiên lệch, không phân biệt đối xử và không gây hại cho con người hoặc xã hội; tuân thủ chuẩn mực đạo đức và giá trị văn hóa Việt Nam; thực hiện trách nhiệm giải trình về các quyết định và hệ quả của hệ thống trí tuệ nhân tạo.

- Thúc đẩy phát triển trí tuệ nhân tạo xanh, bao trùm và bền vững; khuyến khích phát triển và ứng dụng các công nghệ trí tuệ nhân tạo theo hướng sử dụng hiệu quả năng lượng, tiết kiệm tài nguyên và giảm tác động tiêu cực đến môi trường.

Trên đây là thông tin về việc Hệ thống trí tuệ nhân tạo rủi ro trung bình là gì?…