Sự cố nghiêm trọng của hệ thống trí tuệ nhân tạo là gì?

1. Sự cố nghiêm trọng của hệ thống trí tuệ nhân tạo là gì?

Theo quy định tại khoản 2 Điều 3 Luật Trí tuệ nhân tạo 2025 thì thuật ngữ “hệ thống trí tuệ nhân tạo” được định nghĩa như sau:

“Hệ thống trí tuệ nhân tạo là hệ thống dựa trên máy, được thiết kế để thực hiện các năng lực trí tuệ nhân tạo với các mức độ tự chủ khác nhau, có khả năng tự thích nghi sau khi được triển khai; căn cứ vào các mục tiêu được xác định rõ ràng hoặc được hình thành một cách ngầm định, hệ thống suy luận từ dữ liệu đầu vào để tạo ra các đầu ra như dự đoán, nội dung, khuyến nghị hoặc quyết định có thể gây ảnh hưởng tới môi trường vật lý hoặc môi trường số”.

Theo đó, sự kiện xảy ra trong hoạt động của hệ thống trí tuệ nhân tạo, gây ra hoặc có nguy cơ gây ra thiệt hại đáng kể đến tính mạng, sức khỏe, quyền con người, tài sản, an ninh mạng, trật tự công cộng, môi trường hoặc làm gián đoạn hoạt động của hệ thống thông tin quan trọng về an ninh quốc gia được định nghĩa là sự cố nghiêm trọng của hệ thống trí tuệ nhân tạo theo khoản 8 Điều 3 Luật Trí tuệ nhân tạo 2025.

Như vậy, sự cố nghiêm trọng của hệ thống AI không chỉ được xác định khi thiệt hại đã xảy ra mà còn bao gồm trường hợp hệ thống có nguy cơ gây ra những ảnh hưởng đáng kể đối với các lợi ích được pháp luật bảo vệ.

Đối với hệ thống AI, sự cố có thể phát sinh trong quá trình phát triển, cung cấp, triển khai hoặc sử dụng hệ thống, do đó Luật Trí tuệ nhân tạo đặt ra trách nhiệm bảo đảm an toàn, an ninh, độ tin cậy và kịp thời phát hiện, khắc phục sự cố đối với nhà phát triển, nhà cung cấp, bên triển khai và người sử dụng. 

2. Khi nào một sự cố AI được xác định là sự cố nghiêm trọng?

Điều 19 Nghị định số 142/2026/NĐ-CP hướng dẫn cụ thể các trường hợp được xác định là sự cố nghiêm trọng của hệ thống trí tuệ nhân tạo. Theo đó, sự cố nghiêm trọng là sự kiện xảy ra trong hoạt động của hệ thống AI gây ra một trong các hậu quả sau:

2.1. Gây thiệt hại về tính mạng hoặc sức khỏe con người

Sự cố của hệ thống trí tuệ nhân tạo được xem là nghiêm trọng nếu gây thiệt hại về tính mạng hoặc gây tổn hại nghiêm trọng đến sức khỏe của con người. 

2.2. Gây thiệt hại đáng kể về tài sản hoặc ảnh hưởng nghiêm trọng đến hoạt động của tổ chức

Sự cố của hệ thống trí tuệ nhân tạo được xem là nghiêm trọng nếu gây thiệt hại đáng kể về tài sản hoặc làm ảnh hưởng nghiêm trọng đến hoạt động của tổ chức. 

Ví dụ, hệ thống AI được sử dụng trong hoạt động vận hành, sản xuất hoặc cung cấp dịch vụ nếu xảy ra lỗi làm gián đoạn nghiêm trọng hoạt động của tổ chức có thể thuộc trường hợp này.

2.3. Xâm phạm nghiêm trọng quyền con người, quyền và lợi ích hợp pháp

Sự cố của hệ thống trí tuệ nhân tạo được xem là nghiêm trọng nếu gây xâm phạm nghiêm trọng đến quyền con người, quyền và lợi ích hợp pháp của cơ quan, tổ chức, cá nhân. 

2.4. Gây gián đoạn dịch vụ công, dịch vụ thiết yếu hoặc ảnh hưởng đến an ninh quốc gia, trật tự an toàn xã hội

Sự cố của hệ thống trí tuệ nhân tạo được xem là nghiêm trọng nếu gây gián đoạn nghiêm trọng việc cung cấp dịch vụ công, dịch vụ thiết yếu theo quy định pháp luật hoặc ảnh hưởng đến an ninh quốc gia, trật tự, an toàn xã hội. 

3. Ai có trách nhiệm xử lý khi xảy ra sự cố nghiêm trọng của hệ thống AI?

Theo khoản 1 Điều 12 Luật Trí tuệ nhân tạo 2025, nhà phát triển, nhà cung cấp, bên triển khai và người sử dụng hệ thống AI có trách nhiệm bảo đảm an toàn, an ninh, độ tin cậy và kịp thời phát hiện, khắc phục sự cố có khả năng gây tổn hại đến con người, tài sản, dữ liệu hoặc trật tự xã hội. 

Khi hệ thống AI xảy ra sự cố nghiêm trọng, các chủ thể có trách nhiệm cụ thể như sau:

3.1. Trách nhiệm của nhà phát triển, nhà cung cấp AI

Theo điểm a khoản 2 Điều 12 Luật Trí tuệ nhân tạo 2025, nhà phát triển, nhà cung cấp phải:

• Khẩn trương áp dụng biện pháp kỹ thuật để khắc phục sự cố;
• Tạm dừng hoặc thu hồi hệ thống khi cần thiết;
• Thông báo cho cơ quan có thẩm quyền. 
• Ngoài ra, theo khoản 2 Điều 19 Nghị định 142/2026/NĐ-CP, nhà cung cấp phải áp dụng các biện pháp kỹ thuật cần thiết để ngăn chặn, hạn chế và khắc phục hậu quả của sự cố. 

3.2. Trách nhiệm của bên triển khai và người sử dụng AI

Bên triển khai và người sử dụng hệ thống AI có trách nhiệm ghi nhận, thông báo kịp thời sự cố và phối hợp trong quá trình khắc phục. 

Theo Nghị định 142/2026/NĐ-CP, bên triển khai và người sử dụng còn phải thực hiện các biện pháp cần thiết để hạn chế hậu quả khi xảy ra sự cố nghiêm trọng và thông báo cho nhà cung cấp để phối hợp xử lý. 

4. Thời hạn báo cáo sự cố nghiêm trọng của hệ thống trí tuệ nhân tạo

Theo Điều 19 Nghị định số 142/2026/NĐ-CP, nhà cung cấp hoặc bên triển khai phải báo cáo sơ bộ sự cố nghiêm trọng cho cơ quan nhà nước có thẩm quyền thông qua Cổng thông tin điện tử một cửa về trí tuệ nhân tạo. 

Thời hạn báo cáo được xác định như sau:

• Đối với sự cố nghiêm trọng có tính khẩn cấp liên quan đến thiệt hại về tính mạng, sức khỏe hoặc gây ảnh hưởng đến dịch vụ công, an ninh quốc gia, trật tự an toàn xã hội: báo cáo sơ bộ trong thời hạn 72 giờ kể từ thời điểm xác nhận sự cố.
• Đối với các sự cố nghiêm trọng khác: báo cáo sơ bộ trong thời hạn 05 ngày làm việc kể từ thời điểm xác nhận sự cố. 

Thời điểm xác nhận sự cố được tính từ khi tổ chức, cá nhân có đủ cơ sở thông tin ban đầu để xác định sự cố đã thực sự xảy ra và có khả năng cao bắt nguồn từ lỗi của hệ thống AI, không phải chờ đến khi hoàn thành điều tra toàn diện nguyên nhân kỹ thuật. 

5. Cơ quan nhà nước xử lý sự cố nghiêm trọng của hệ thống AI như thế nào?

Theo khoản 3 Điều 12 Luật Trí tuệ nhân tạo 2025, cơ quan quản lý nhà nước có thẩm quyền có trách nhiệm tiếp nhận, xác minh và hướng dẫn xử lý sự cố. Khi cần thiết, cơ quan có thẩm quyền có quyền yêu cầu:

• Tạm dừng hệ thống;
• Thu hồi hệ thống;
• Đánh giá lại hệ thống trí tuệ nhân tạo. 

Việc báo cáo và xử lý sự cố được thực hiện thông qua Cổng thông tin điện tử một cửa về trí tuệ nhân tạo. 

Trường hợp sự cố có dấu hiệu ảnh hưởng đến an ninh quốc gia, trật tự, an toàn xã hội hoặc có dấu hiệu vi phạm pháp luật hình sự, Bộ Khoa học và Công nghệ phối hợp với Bộ Công an và các cơ quan liên quan để xác minh, xử lý theo quy định pháp luật. 

6. Nhà cung cấp và bên triển khai AI phải lưu giữ thông tin gì khi xảy ra sự cố?

Theo khoản 4 Điều 19 Nghị định 142/2026/NĐ-CP, nhà cung cấp và bên triển khai phải duy trì, lưu giữ:

• Nhật ký hệ thống;
• Dữ liệu;
• Thông tin liên quan đến sự cố.

Các thông tin này được sử dụng để phục vụ việc xác minh, đánh giá và khắc phục sự cố. Đồng thời, nhà cung cấp và bên triển khai phải gửi báo cáo chính thức về kết quả khắc phục sự cố cho cơ quan nhà nước có thẩm quyền trong thời hạn 15 ngày kể từ ngày nộp báo cáo sơ bộ. 

Trên đây là thông tin về “Sự cố nghiêm trọng của hệ thống trí tuệ nhân tạo là gì?”. Vui lòng xem chi tiết Luật Trí tuệ nhân tạo 2025 và Nghị định số 142/2026/NĐ-CP trên LuatVietnam.vn và các tính năng liên quan như: Tình trạng hiệu lực, Lược đồ...