Cấm tuyệt đối hệ thống nguy hiểm, tăng giám sát với nhóm rủi ro cao
Sáng 21/11, dưới sự điều hành của Phó Chủ tịch Quốc hội Lê Minh Hoan, Quốc hội khóa XV họp phiên toàn thể tại Hội trường để xem xét Tờ trình của Chính phủ về dự án Luật Trí tuệ nhân tạo. Bộ trưởng Bộ Khoa học và Công nghệ (KH&CN) Nguyễn Mạnh Hùng thay mặt Chính phủ trình bày nội dung Tờ trình.
Một điểm nổi bật của dự thảo Luật Trí tuệ nhân tạo là việc chia hệ thống AI thành bốn mức rủi ro kèm theo nghĩa vụ quản lý tương ứng.
Hệ thống trí tuệ nhân tạo có rủi ro không chấp nhận được gồm các hệ thống có thể gây tổn hại nghiêm trọng, không thể khắc phục đối với quyền con người, an ninh quốc gia, trật tự, an toàn xã hội hoặc phục vụ hành vi bị pháp luật cấm. Những hệ thống này bị cấm phát triển, cung cấp, triển khai hay sử dụng dưới mọi hình thức.
Hệ thống trí tuệ nhân tạo có rủi ro cao bao gồm các hệ thống có khả năng gây thiệt hại cho tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân hoặc lợi ích công cộng quan trọng. Các hệ thống này phải được đánh giá sự phù hợp trước khi lưu hành, đưa vào sử dụng hoặc khi có thay đổi lớn trong vận hành.
Hệ thống trí tuệ nhân tạo có rủi ro trung bình là những hệ thống có thể gây nhầm lẫn, thao túng hoặc đánh lừa người dùng do họ không nhận biết được bản chất AI của hệ thống hay nội dung AI tạo ra.
Hệ thống trí tuệ nhân tạo có rủi ro thấp là các trường hợp còn lại.
Với nhóm rủi ro trung bình và thấp, hệ thống phải đáp ứng yêu cầu minh bạch, gắn nhãn theo quy định.
Nhà cung cấp có trách nhiệm tự phân loại trước khi đưa hệ thống ra thị trường và chịu trách nhiệm về kết quả. Đối với hệ thống rủi ro trung bình và cao, nhà cung cấp phải thông báo cho Bộ KH&CN qua cổng thông tin một cửa. Cơ quan có thẩm quyền có thể kiểm tra và đánh giá lại việc phân loại khi cần thiết.
Bộ trưởng Bộ KH&CN Nguyễn Mạnh Hùng nhấn mạnh việc xây dựng luật nhằm cụ thể hóa các nghị quyết lớn của Đảng, Nhà nước về khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số, đặc biệt là yêu cầu phát triển trí tuệ nhân tạo vì con người, vì phát triển bền vững, đồng thời bảo vệ vững chắc lợi ích quốc gia, quyền con người và chủ quyền số.
Theo Tờ trình, dự thảo Luật gồm 8 chương, 36 điều, quy định các hoạt động nghiên cứu, phát triển, cung cấp, triển khai và sử dụng hệ thống trí tuệ nhân tạo tại Việt Nam; xác định quyền, nghĩa vụ của tổ chức, cá nhân có liên quan; và quy định trách nhiệm quản lý nhà nước đối với hoạt động trí tuệ nhân tạo tại Việt Nam.
Bộ KH&CN được giao là cơ quan chủ trì soạn thảo, đóng vai trò “trục kết nối” giữa các bộ, ngành, giới chuyên gia, doanh nghiệp và cộng đồng nghiên cứu trong nước, đồng thời tham khảo kinh nghiệm lập pháp của nhiều quốc gia và tổ chức quốc tế.
Dự thảo Luật tiếp cận theo hướng quản lý dựa trên rủi ro, phân loại hệ thống AI theo các mức độ khác nhau, đi kèm là những yêu cầu về minh bạch, gắn nhãn, giải trình, đánh giá sự phù hợp, quản lý và xử lý sự cố.
Một số lĩnh vực đặc thù như quốc phòng, an ninh, tình báo, cơ yếu được tách khỏi phạm vi điều chỉnh của Luật để phù hợp với tính chất bí mật và cơ chế quản lý riêng.
Tránh trùng lặp, chồng lấn giữa các luật
Thay mặt cơ quan chủ trì thẩm tra, Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường của Quốc hội Nguyễn Thanh Hải cho biết Dự thảo Luật đã bám sát các chủ trương lớn của Đảng, Nhà nước về phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số.
Chủ nhiệm Nguyễn Thanh Hải cũng nêu rõ Ủy ban nhất trí với sự cần thiết ban hành Luật Trí tuệ nhân tạo để bổ sung và hoàn thiện khung pháp lý hiện có, thiết lập cơ chế quản lý thống nhất, đồng bộ, toàn diện và linh hoạt hơn, phù hợp với đặc thù của lĩnh vực trí tuệ nhân tạo; thúc đẩy hội nhập, công nhận lẫn nhau về công nghệ. Qua đó nâng cao vị thế của Việt Nam trong chuỗi giá trị toàn cầu và mở rộng hợp tác quốc tế trong lĩnh vực trí tuệ nhân tạo.
Ủy ban đề nghị Bộ KH&CN tiếp tục rà soát, thể chế hóa các chủ trương của Đảng, Nhà nước về phát triển AI vì con người, vì phát triển bền vững; nâng cao năng suất lao động dựa trên ứng dụng AI; thúc đẩy hợp tác công, tư trong phát triển hạ tầng dữ liệu, hạ tầng tính toán hiệu năng cao và đào tạo nhân lực chất lượng cao.
Một trong những nội dung được cơ quan thẩm tra nhấn mạnh là phạm vi điều chỉnh của Luật.
Theo Ủy ban, dự thảo hiện tiếp cận khá rộng, nhưng ranh giới giữa Luật Trí tuệ nhân tạo với các luật liên quan như: Luật Khoa học, Công nghệ và Đổi mới sáng tạo, Luật Dữ liệu, Luật Công nghiệp công nghệ số,… vẫn cần được làm rõ hơn để tránh trùng lặp, chồng lấn. Đồng thời, nghiên cứu, mở rộng phạm vi điều chỉnh và bổ sung quy định liên quan đến các chủ thể trung gian nêu trên nhằm bảo đảm quản lý toàn diện chuỗi giá trị trí tuệ nhân tạo và ngăn ngừa rủi ro phát sinh từ hoạt động cung cấp nền tảng, mô hình gốc.
Bên cạnh đó, cần bổ sung quy định hoạt động đào tạo, nghiên cứu, phát triển và thử nghiệm nội bộ vì các hệ thống trí tuệ nhân tạo rủi ro cao dù trong môi trường nội bộ vẫn có thể gây sự cố kỹ thuật hoặc an ninh mạng nghiêm trọng nếu không được kiểm soát.
“Không thể quản trị AI bằng đạo đức hay sandbox đơn lẻ”
