Phát triển AI một cách có hệ thống để thu hút đầu tư

Cuối phiên thảo luận tại hội trường về dự án Luật Trí tuệ nhân tạo, chiều 27/11, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng đã giải trình làm rõ các vấn đề đại biểu Quốc hội quan tâm.

Trước đó, góp ý Điều 11 và Điều 12 của dự thảo, đại biểu Thạch Phước Bình (Đoàn ĐBQH tỉnh Vĩnh Long) cho rằng, phân loại rủi ro là “linh hồn” của Luật AI. Tuy nhiên, hiện dự thảo vẫn chưa đưa ra tiêu chí phân loại mang tính định lượng.

Bên cạnh đó, danh mục hệ thống AI “rủi ro cao” đang được quy định tương đối rộng, bao gồm cả các lĩnh vực mà thực tiễn chưa xuất hiện rủi ro đáng kể. Điều này có thể tạo ra “gánh nặng tuân thủ” không cần thiết, đặc biệt với doanh nghiệp nhỏ và vừa.

Do đó, đại biểu Thạch Phước Bình đề nghị rà soát lại danh mục rủi ro cao, theo hướng chỉ tập trung vào những hệ thống có thể gây tác động lớn tới quyền con người, quyền riêng tư, sức khỏe, tài chính và an toàn xã hội. Ngoài ra, thiết lập cơ chế cập nhật linh hoạt danh mục này trên cơ sở tham vấn chuyên gia, hiệp hội ngành hàng và tổ chức nghiên cứu và gắn tiêu chí rủi ro vào các đặc tính kỹ thuật của mô hình như tính tự động, khả năng tự học, tính không dự đoán được và quy mô sử dụng.

Đóng góp ý kiến vào dự thảo Luật Trí tuệ nhân tạo, đại biểu Trần Khánh Thu (đoàn ĐBQH tỉnh Hưng Yên) cũng cho rằng các quy định cụ thể về sản phẩm ứng dụng trí tuệ nhân tạo trong y học vẫn chưa rõ ràng. Các sản phẩm phục vụ khám bệnh, chữa bệnh dựa trên trí tuệ nhân tạo hiện vẫn phải tuân theo quy trình cấp phép chung dành cho thiết bị y tế, nhưng thiếu các tiêu chuẩn và quy định riêng về trí tuệ nhân tạo cho các sản phẩm đó.

Ngoài ra trách nhiệm pháp lý trong trường hợp trí tuệ nhân tạo mắc sai sót, bảo mật dữ liệu y tế, bảo đảm an toàn cho bệnh nhân cũng chưa được quy định rõ ràng trong các văn bản quy phạm pháp luật hiện hành.

Do đó, đại biểu Trần Khánh Thu kiến nghị, trong dự thảo Luật Trí tuệ nhân tạo cần có thêm điều khoản khung pháp lý cụ thể hơn để quản lý các sản phẩm trí tuệ nhân tạo trong y tế, đặc biệt là về trách nhiệm của các bên liên quan.

Đại biểu Trần Văn Lâm (đoàn ĐBQH tỉnh Bắc Ninh) cũng cho rằng cần thiết lập một khung pháp lý đủ mạnh để AI phát triển đúng hướng và an toàn cho xã hội.

Giải trình những ý kiến của các đại biểu Quốc hội liên quan đến quản lý rủi ro từ AI, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng nhấn mạnh, việc sớm có Luật AI là thực sự cần thiết để chúng ta phát triển AI một cách chủ động và có hệ thống để thu hút đầu tư, để phát triển đất nước nhanh và bền vững.

Đề cập về quản lý rủi ro do AI tạo ra, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng cho biết, Nhà nước yêu cầu đánh giá rủi ro, kiểm thử độc lập và trách nhiệm giải trình với đầu ra nơi rủi ro trở thành hiện thực. Nhà nước quản lý bằng tiêu chuẩn an toàn, cơ chế hậu kiểm và các chế tài khi phát sinh hậu quả.

"Như vậy, quản trị AI không phải là phát minh ra một triết lý hoàn toàn mới mà đã kế thừa kinh nghiệm quản lý trí tuệ của con người áp dụng cho một công cụ mạnh hơn và nhanh hơn", Bộ trưởng nhận định.

Về phát triển AI lấy con người làm trung tâm, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng khẳng định, nguyên tắc tối cao là AI phải phục vụ con người và không thay thế vai trò quyết định của con người. Yêu cầu minh bạch là người dân phải biết khi nào họ tương tác với AI, quy định trách nhiệm pháp lý khi AI gây thiệt hại. Cơ quan soạn thảo đã bổ sung quy định trách nhiệm rõ ràng của các bên liên quan như nhà phát triển, nhà cung cấp, nhà triển khai và người sử dụng.

“Về quản lý AI dựa trên mức độ rủi ro, Cơ quan soạn thảo đã nghiên cứu, tiếp thu ý kiến của các đại biểu Quốc hội theo hướng có ba mức độ rủi ro: thấp, trung bình và cao; đồng thời bổ sung một điều về các hành vi bị cấm. Đối với việc tiền kiểm AI rủi ro cao, trong dự án Luật đã đưa ra hình thức, nghĩa vụ tối thiểu trước khi triển khai cộng với hậu kiểm”, Bộ trưởng Nguyễn Mạnh Hùng cho hay.