Tiêu chuẩn quốc gia TCVN 14199-2:2024 Trí tuệ nhân tạo - Quy trình vòng đời - Phần 2: Độ bền vững

TCVN 14199-2:2024: Quy định về độ bền vững trong trí tuệ nhân tạo

Tiêu chuẩn quốc gia TCVN 14199-2:2024, được xây dựng trên cơ sở tham khảo tài liệu DIN SPEC 92001-2(2020), đã được Học viện Công nghệ Bưu chính Viễn thông biên soạn và công bố bởi Bộ Khoa học và Công nghệ. Tiêu chuẩn này có hiệu lực từ năm 2024, nhằm quy định quy trình vòng đời và yêu cầu chất lượng liên quan đến độ bền vững của các mô-đun trí tuệ nhân tạo (AI).

TCVN 14199-2:2024 áp dụng cho tất cả các giai đoạn vòng đời của mô-đun AI, bao gồm ý tưởng, phát triển, triển khai, vận hành và ngừng hoạt động. Tiêu chuẩn này không giới hạn trong một lĩnh vực cụ thể, mà có thể áp dụng cho tất cả các công ty và sản phẩm liên quan đến AI, trong đó bao gồm cả hệ thống máy học (ML) và hệ thống chuyên gia.

Một khía cạnh nổi bật là tiêu chuẩn này phân biệt giữa các mô-đun AI có mức rủi ro cao và thấp liên quan đến an toàn, bảo mật, quyền riêng tư và đạo đức. Mô-đun AI cấp cao yêu cầu tuân thủ các yêu cầu chất lượng nghiêm ngặt, trong khi mô-đun có rủi ro thấp có thể có sự linh hoạt hơn trong việc đáp ứng các yêu cầu này.

Độ bền vững là khả năng của một mô-đun AI để đối phó với dữ liệu đầu vào không chính xác hoặc bị tấn công. Tiêu chuẩn này phân loại độ bền vững thành hai loại: độ bền vững đối thủ (AR) và độ bền vững thoái hóa (CR). AR đề cập đến khả năng bảo vệ mô-đun AI khỏi các tấn công chủ động, trong khi CR là khả năng của mô-đun khi đối mặt với những thay đổi không mong muốn trong dữ liệu.

TCVN 14199-2:2024 đề xuất rằng các tổ chức nên thành lập nhóm chuyên gia để đánh giá các hồ sơ rủi ro mô-đun AI và thực hiện các biện pháp giảm thiểu phù hợp. Tuy nhiên, tiêu chuẩn này không quy định một quy trình cụ thể cho việc đánh giá rủi ro, mà chỉ yêu cầu việc này tuân theo khung pháp lý hiện hành và quy tắc đạo đức của mỗi tổ chức.

Có sự nhấn mạnh về tầm quan trọng của việc xét đến hoàn cảnh cụ thể trong quá trình quản lý rủi ro cho các mô-đun AI. Tiêu chuẩn yêu cầu các bên liên quan phải tiến hành các bước bao gồm xác định rủi ro, phân tích và đánh giá chúng một cách chi tiết để bảo đảm hiện thực hóa độ bền vững của mô-đun, mà không giới hạn chỉ trong một lần, mà là một quy trình liên tục.

Tiêu chuẩn này không chỉ định rõ các thuật ngữ cụ thể trong lĩnh vực AI mà còn yêu cầu sự tự đánh giá từ người dùng để đảm bảo rằng các yêu cầu chất lượng áp dụng phù hợp với các lĩnh vực ứng dụng cụ thể của họ. Qua đó, TCVN 14199-2:2024 hướng đến việc bảo vệ người sử dụng và thúc đẩy sự phát triển an toàn của công nghệ trí tuệ nhân tạo tại Việt Nam, đồng thời nâng cao chất lượng và độ tin cậy của các mô-đun AI trong hoạt động thực tế.