Nhấn mạnh hiện các quy định về sản phẩm ứng dụng trí tuệ nhân tạo (AI) trong y học vẫn chưa rõ ràng, đại biểu Quốc hội đề nghị dự thảo Luật Trí tuệ nhân tạo lần này sẽ có thêm điều khoản khung pháp lý cụ thể hơn để quản lý các sản phẩm AI trong y tế, đặc biệt là về trách nhiệm của các bên liên quan.

Chiều 27/11, tiếp tục chương trình Kỳ họp thứ 10, Quốc hội thảo luận tại hội trường về dự án Luật Trí tuệ nhân tạo.

Đề nghị bổ sung quy định về giám sát lưu hành AI trong y tế

Tham gia góp ý kiến, đại biểu Quốc hội Trần Khánh Thu (Đoàn Hưng Yên) cho rằng thế kỷ 21, trí tuệ nhân tạo đã trở thành một cuộc cách mạng công nghệ và tác động sâu rộng đến nhiều lĩnh vực khoa học, công nghệ và đời sống.

Trong số đó, ngành y tế được đánh giá là một trong những lĩnh vực có nhiều tiềm năng ứng dụng trí tuệ nhân tạo nhất, với những ảnh hưởng rõ rệt lên quy trình chẩn đoán, điều trị, quản lý bệnh nhân, cũng như nghiên cứu và phát triển dược phẩm.

Việc kết hợp các phần mềm như học máy (Machine Learning), học sâu (Deep Learning) và dữ liệu lớn (Big Data) đã mở ra nhiều hướng đi mới, giúp nâng cao chất lượng chăm sóc sức khỏe và hiệu quả trong điều trị bệnh tật.

Trí tuệ nhân tạo không chỉ giúp tối ưu hóa các quy trình trong ngành y tế, giảm tải công việc cho các bác sĩ và chuyên gia y tế, mà còn đóng vai trò quan trọng trong việc cá nhân hóa điều trị, từ đó cải thiện kết quả chăm sóc sức khỏe và tăng cường hiệu quả sử dụng nguồn lực.

Tại Việt Nam, việc áp dụng trí tuệ nhân tạo trong y tế đang ngày càng phát triển, tuy nhiên, vẫn đối mặt với nhiều thách thức như cơ sở hạ tầng hạn chế, khả năng tiếp cận công nghệ và nhân lực y tế chưa đồng đều.

Đại biểu nêu dẫn chứng, mới đây, một bệnh nhân (55 tuổi, ở Thành phố Hồ Chí Minh) được đưa đến Bệnh viện cấp cứu trong tình trạng lơ mơ, không nhận biết chung quanh. Con gái bệnh nhân cho hay trước đó thấy mẹ bị chóng mặt, khó thở, cô nhờ trí tuệ nhân tạo (AI) chẩn đoán, kết quả cho thấy bị tăng huyết áp. Người con đo huyết áp cho mẹ thấy cao nên càng tin tưởng và ra tiệm thuốc mua thuốc.

Thế nhưng, sau khi uống xong, tình trạng người mẹ ngày càng tệ hơn, mệt, ói nhiều, đến khi không còn nhận thức được thì mới đưa đi cấp cứu. Tại bệnh viện, bác sĩ xác định bệnh nhân bị tổn thương não, đột quỵ và dù được cứu qua nguy kịch, song di chứng để lại khó tránh khỏi.

Hiện nay, internet rất phổ biến, đặc biệt là AI - một nguồn thông tin rất tốt cho bệnh nhân khi muốn tìm hiểu thêm về bệnh lý của mình, như cơ chế, nguyên nhân gây bệnh và các triệu chứng để biết về bệnh của mình và chuẩn bị câu hỏi cho bác sĩ khi chưa hiểu rõ hoặc phối hợp với bác sĩ là điều tốt.

"Thế nhưng, tuyệt đối mọi người không dùng kết quả tìm kiếm để chẩn đoán hay kê đơn thuốc cho bản thân được", đại biểu nói và đặt câu hỏi "người bán thuốc theo các đơn AI này thì có vi phạm pháp luật?".

Các luật như Luật Khám bệnh, chữa bệnh 2023 và Luật Dược 2016 điều chỉnh các hoạt động khám chữa bệnh và sản phẩm y tế, nhưng các quy định cụ thể về sản phẩm ứng dụng trí tuệ nhân tạo trong y học vẫn chưa rõ ràng.

Các sản phẩm phục vụ khám bệnh, chữa bệnh dựa trên trí tuệ nhân tạo hiện vẫn phải tuân theo quy trình cấp phép chung dành cho thiết bị y tế, nhưng thiếu các tiêu chuẩn và quy định riêng về trí tuệ nhân tạo cho các sản phẩm đó.

Ngoài ra, một số vấn đề như trách nhiệm pháp lý trong trường hợp trí tuệ nhân tạo mắc sai sót, bảo mật dữ liệu y tế, bảo đảm an toàn cho bệnh nhân cũng chưa được quy định rõ ràng trong các văn bản quy phạm pháp luật hiện hành.

Do đó, đại biểu hy vọng trong dự thảo Luật Trí tuệ nhân tạo lần này sẽ có thêm điều khoản khung pháp lý cụ thể hơn để quản lý các sản phẩm trí tuệ nhân tạo trong y tế, đặc biệt là về trách nhiệm của các bên liên quan.

Cùng quan điểm, đại biểu Lê Văn Khảm (Đoàn Thành phố Hồ Chí Minh) cho rằng cần có quy định riêng cho một số lĩnh vực có rủi ro cao như y tế, tài chính, giao thông. Đặc biệt với y tế, đây là lĩnh vực có rủi ro sai số lớn, liên quan trực tiếp đến sức khỏe, tính mạng người dân nên yêu cầu kiểm soát chặt chẽ hơn.

Thí dụ, những công nghệ AI hỗ trợ ra quyết định lâm sàng như AI chẩn đoán, AI dự đoán nguy cơ tử vong hoặc biến chứng, robot phẫu thuật sử dụng AI, AI hỗ trợ kê đơn hoặc phác đồ điều trị phải được kiểm định bắt buộc.

Đồng thời, cần có quy định riêng về giám sát lưu hành AI trong y tế, như báo cáo định kỳ, cảnh báo nhanh sự cố, kiểm toán thuật toán, theo dõi sai số theo thời gian thực.

Đại biểu đề nghị giao trách nhiệm quản lý AI trong y tế cho Bộ Y tế phối hợp với Bộ Khoa học và Công nghệ để ban hành tiêu chuẩn, quy chuẩn và hướng dẫn kỹ thuật. Cũng cần cân nhắc quy định việc nhà cung cấp tự phân loại rủi ro đối với AI trong y tế như tại Điều 9 của dự thảo luật.

Đại biểu Lê Văn Khảm cũng đề nghị dự thảo Luật có quy định riêng về dữ liệu y tế vì đây là loại dữ liệu đặc thù, yêu cầu cao về tính chính xác, đồng bộ, bảo mật, đặc hiệu và khả năng so sánh đối chiếu. Việc này vừa giúp phát triển AI trong y tế, vừa bảo đảm an toàn người bệnh, chất lượng dịch vụ chăm sóc sức khỏe và giảm thiểu rủi ro xã hội.

Quy định cụ thể hơn về cơ chế thử nghiệm có kiểm soát đối với AI

Góp ý về cơ chế thử nghiệm có kiểm soát đối với việc phát triển trí tuệ nhân tạo, đại biểu Hoàng Minh Hiếu (Đoàn Nghệ An) cho rằng điều này hết sức quan trọng, bởi trí tuệ nhân tạo là vấn đề rất mới, liên quan đến nhiều lĩnh vực khác nhau, nên nếu chỉ dựa trên khuôn khổ pháp lý hiện hành thì không thể tạo điều kiện cho AI phát triển.

Theo đại biểu, mục đích chính của cơ chế thử nghiệm có kiểm soát đối với AI là gỡ bỏ rào cản pháp lý đang cản trở các mô hình AI, cho phép thử nghiệm trong phạm vi giới hạn để lấy dữ liệu chứng minh hiệu quả, từ đó thúc đẩy cải cách quy định lâu dài.

"Cách thức này cũng rất phù hợp với tư duy lập pháp hiện nay của chúng ta, đó là thể chế phải đi trước mở đường cho sự phát triển; cái gì biết thì quản, cái gì chưa biết, chưa rõ thì chưa quản. Vì vậy, chúng tôi cho rằng các quy định về cơ chế thử nghiệm có kiểm soát phải là trọng tâm trong khuôn khổ pháp luật về trí tuệ nhân tạo, nên đề nghị Cơ quan chủ trì soạn thảo cần nghiên cứu, quy định cụ thể hơn về vấn đề này trong dự thảo", đại biểu đề xuất.

Theo đó, đại biểu Hoàng Minh Hiếu đề nghị xem lại quy định về việc tổ chức, cá nhân tham gia thử nghiệm có kiểm soát được miễn hoặc giảm một số nghĩa vụ tuân thủ quy định tại khoản 2 Điều 20 dự thảo Luật. Cách quy định như vậy dẫn đến phạm vi được miễn trừ chỉ giới hạn trong phạm vi quy định của Luật này trong khi các hệ thống trí tuệ nhân tạo thường liên quan rất nhiều đến rất nhiều các quy định của pháp luật khác có liên quan.

Đại biểu lấy thí dụ đối với việc thử nghiệm AI trong phương tiện tự lái sẽ liên quan nhiều đến các điều cấm trong Luật Trật tự, an toàn đường bộ, Luật Bảo vệ dữ liệu cá nhân... "Chẳng hạn như một cơ chế thử nghiệm AI trong máy bay tự lái chở khách ở Nhật Bản được miễn trừ một số quy tắc hàng không. Hoặc việc thử nghiệm xe tự lái ở Trung Quốc, Nhật Bản được miễn trừ quy định của luật bảo vệ dữ liệu cá nhân là được sử dụng dữ liệu hình ảnh không phải làm mờ hình ảnh khuôn mặt của người tham gia giao thông để đào tạo, huấn luyện thị giác của AI".

Vì vậy, đại biểu đoàn Nghệ An đề nghị cơ quan soạn thảo nghiên cứu, chỉnh lý quy định tại khoản 2 Điều 20 theo hướng xác định rõ tổ chức, cá nhân tham gia thử nghiệm có kiểm soát được miễn hoặc giảm một số nghĩa vụ tuân thủ quy định tại Luật này và các luật khác có liên quan.

Liên quan quy định tại khoản 5 về việc giao cơ quan quản lý nhà nước về trí tuệ nhân tạo tổ chức tiếp nhận, thẩm định và xử lý hồ sơ tham gia hoạt động thử nghiệm có kiểm soát theo quy trình thẩm định và phản hồi nhanh, đại biểu bày tỏ đồng tình song cho rằng, quy định như vậy chỉ phù hợp với những hệ thống AI có mục đích chung như AI tạo sinh (ChatGPT, Gemini...).

Còn đối với những hệ thống AI chuyên biệt có tính liên ngành rất cao, chẳng hạn như hệ thống DrAid là sản phẩm AI hỗ trợ chẩn đoán hình ảnh y tế được phát triển bởi công ty VinBrain, nếu đăng ký thử nghiệm thì không thể không có vai trò giám sát và quản lý của Bộ Y tế. Chính vì vậy, ở một số nước việc thẩm định cấp phép thử nghiệm có kiểm soát đối với các hệ thống AI được giao cho một Hội đồng liên ngành.

Từ đó, đại biểu đề nghị chỉnh lý lại quy định tại khoản 5 theo hướng "Cơ quan quản lý nhà nước về trí tuệ nhân tạo chủ trì và phối hợp với các cơ quan quản lý nhà nước có liên quan tổ chức tiếp nhận, thẩm định và xử lý hồ sơ tham gia hoạt động thử nghiệm có kiểm soát".