Ban hành Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao là yêu cầu cấp thiết
Việc ban hành Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao là yêu cầu tất yếu và cấp thiết để đưa Luật Trí tuệ nhân tạo vào cuộc sống.
Bộ Tư pháp vừa công khai Hồ sơ thẩm định dự thảo Quyết định của Thủ tướng Chính phủ ban hành Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao.
Trong đó, theo dự thảo tờ trình, Bộ Khoa học và Công nghệ nêu rõ, sự cần thiết ban hành danh mục này còn bắt nguồn từ những yêu cầu cấp bách trong thực tiễn phát triển và ứng dụng trí tuệ nhân tạo tại Việt Nam.
Thứ nhất, tính chất đặc thù và rủi ro tiềm tàng của công nghệ trí tuệ nhân tạo. Với khả năng tự học, tự thích nghi và các mức độ tự chủ khác nhau, hệ thống trí tuệ nhân tạo có thể đưa ra các kết quả đầu ra (dự đoán, khuyến nghị hoặc quyết định) có thể gây ảnh hưởng trực tiếp, diện rộng tới cả môi trường vật lý và môi trường số.
Thực tế cho thấy, các hệ thống trí tuệ nhân tạo ứng dụng trong các lĩnh vực thiết yếu như y tế (chẩn đoán, điều trị xâm lấn), giao thông (điều khiển phương tiện tự hành), hạ tầng kỹ thuật trọng yếu (điều phối điện, nước) hay an ninh trật tự (nhận diện sinh trắc học quy mô lớn) có khả năng gây thiệt hại đặc biệt nghiêm trọng đến tính mạng, sức khỏe con người, xâm phạm quyền riêng tư hoặc đe dọa an ninh quốc gia nếu kết quả đầu ra được sử dụng làm căn cứ quyết định trực tiếp mà không có sự kiểm soát thực chất của con người.
Thứ hai, đáp ứng nhu cầu xác lập một “hàng rào kỹ thuật” minh bạch, tạo cơ sở pháp lý vững chắc cho cả cơ quan quản lý và doanh nghiệp trong việc thực thi Luật Trí tuệ nhân tạo. Hiện nay, các tổ chức và cá nhân tham gia vào hoạt động trí tuệ nhân tạo đang thiếu một công cụ định danh cụ thể để đối soát và xác định hệ thống của mình có thuộc diện phải đánh giá sự phù hợp, quản trị dữ liệu nghiêm ngặt hay thực hiện các biện pháp quản lý rủi ro đặc thù khác theo quy định hay không.
Việc ban hành Danh mục giúp doanh nghiệp chủ động trong việc tuân thủ pháp luật, giảm chi phí không cần thiết cho các ứng dụng rủi ro thấp và tập trung nguồn lực quản trị rủi ro cho các hệ thống thực sự có khả năng gây ra sự cố nghiêm trọng.
Thứ ba, bảo đảm hiệu quả quản lý nhà nước và an toàn công cộng. Danh mục là căn cứ pháp lý để cơ quan nhà nước thực hiện kiểm tra định kỳ hoặc khi có dấu hiệu vi phạm đối với các hệ thống rủi ro cao.
Trong bối cảnh các sự cố về trí tuệ nhân tạo có thể phát sinh diễn biến nhanh và để lại hậu quả trên phạm vi diện rộng, việc xác định rõ đối tượng cần “tiền kiểm” hoặc giám sát chặt chẽ là biện pháp thiết yếu để bảo vệ lợi ích công cộng, đảm bảo quyền và lợi ích hợp pháp của người bị ảnh hưởng, đồng thời xây dựng niềm tin của xã hội đối với công nghệ mới.
"Vì vậy, việc ban hành Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao là yêu cầu tất yếu và cấp thiết để đưa Luật Trí tuệ nhân tạo vào cuộc sống, bảo đảm mục tiêu phát triển trí tuệ nhân tạo an toàn, tin cậy và bền vững tại Việt Nam" - dự thảo tờ trình nêu rõ.
