Trí tuệ nhân tạo (AI) được coi là một công nghệ mang tính cách mạng vào khoảng đầu thế kỷ 21 nhưng sự tiếp thu của nó còn chậm và gặp nhiều khó khăn. Mặc dù AI đã trải qua những giai đoạn thăng trầm, nhưng hiện tại các ứng dụng nhanh chóng và phổ biến của nó đang được coi là sự xuất hiện lần thứ hai của AI. Nó được sử dụng trong nhiều lĩnh vực và có động lực tạo ra các ứng dụng thực tế có thể cải thiện cuộc sống hàng ngày và xã hội của chúng ta. Chăm sóc sức khỏe là một lĩnh vực đầy hứa hẹn nhưng cũng đầy thách thức đối với AI. Hai ứng dụng chính của AI là hỗ trợ các chuyên gia y tế trong việc ra quyết định và tự động hóa một số nhiệm vụ lặp đi lặp lại để giải phóng thời gian cho các chuyên gia. Mặc dù vẫn còn ở giai đoạn đầu, các ứng dụng AI đang phát triển nhanh chóng. Chẳng hạn, ChatGPT là một mô hình ngôn ngữ lớn (LLM) sử dụng các kỹ thuật học sâu được đào tạo trên dữ liệu văn bản. Mô hình này đã được sử dụng trong nhiều ứng dụng, bao gồm dịch ngôn ngữ, tóm tắt văn bản, tạo hội thoại, tạo văn bản thành văn bản và các ứng dụng khác.

Tuy nhiên, việc sử dụng AI trong các lĩnh vực y tế và nghiên cứu đã làm dấy lên mối lo ngại về những tác động có hại tiềm ẩn mà nó có thể gây ra đối với tính chính xác và toàn vẹn của thông tin do AI tạo ra. Một trong những mối quan tâm chính của việc sử dụng các công cụ AI trong lĩnh vực y tế là khả năng tạo ra thông tin sai lệch. Vì mô hình được đào tạo trên một khối lượng lớn dữ liệu nên nó có thể vô tình đưa thông tin sai lệch vào phản hồi của nó. Điều này có thể dẫn đến việc bệnh nhân nhận được lời khuyên y tế không chính xác hoặc có hại, có khả năng dẫn đến hậu quả sức khỏe nghiêm trọng. Một vấn đề khác khi sử dụng các công cụ AI trong nghiên cứu y học là khả năng sai lệch được đưa vào kết quả. Khi mô hình được đào tạo dựa trên dữ liệu, nó có thể duy trì những thành kiến và khuôn mẫu hiện có, dẫn đến kết luận không chính xác hoặc không công bằng trong các nghiên cứu cũng như trong chăm sóc sức khỏe. Ngoài ra, khả năng tạo văn bản giống con người của các công cụ AI cũng có thể gây ra những lo ngại về đạo đức trong các lĩnh vực như nghiên cứu, giáo dục, báo chí, luật, v.v. Ví dụ, mô hình này có thể được sử dụng để tạo các bài báo khoa học giả và các bài báo, có khả năng đánh lừa các nhà nghiên cứu và lừa dối cộng đồng khoa học.

Mặc dù có những lo ngại như vậy, điều quan trọng cần lưu ý là các công cụ AI, giống như bất kỳ công cụ nào khác, nên được sử dụng một cách thận trọng. Một trong những cách để giải quyết vấn đề này là có sẵn một khung quản trị có thể giúp quản lý những rủi ro và tác hại tiềm ẩn bằng cách thiết lập các tiêu chuẩn, giám sát và thực thi các chính sách và quy định, đưa ra phản hồi và báo cáo về hiệu suất, đồng thời bảo đảm phát triển theo cách tôn trọng đến các nguyên tắc đạo đức, nhân quyền và cân nhắc về an toàn. Ngoài ra, các khuôn khổ quản trị có thể thúc đẩy trách nhiệm giải trình và tính minh bạch bằng cách đảm bảo rằng các nhà nghiên cứu và những người thực hành nhận thức được những hậu quả tiêu cực có thể xảy ra khi thực hiện mô hình này và khuyến khích họ sử dụng nó một cách có trách nhiệm.

Áp dụng khuôn khổ quản trị có thể mang đến cách tiếp cận có cấu trúc để đối thoại và tạo điều kiện thuận lợi cho việc trao đổi thông tin và quan điểm giữa các bên liên quan, dẫn đến việc phát triển các giải pháp hiệu quả hơn cho nhiều vấn đề. Ví dụ, Công ước khung của Liên hợp quốc về biến đổi khí hậu (UNFCCC): Một trong những kết quả đáng chú ý nhất của quá trình UNFCCC là Thỏa thuận Paris, được thông qua năm 2015. Thỏa thuận đã thiết lập khuôn khổ minh bạch để theo dõi và báo cáo tiến độ hướng tới đạt được các mục tiêu dài hạn và cung cấp nền tảng cho đối thoại và hợp tác thường xuyên giữa các bên. Mặc dù các khuôn khổ quản trị có thể mang lại cấu trúc và sự ổn định, nhưng chúng cũng có những hạn chế ảnh hưởng đến hiệu quả của chúng, ví dụ như thiếu sự thống nhất, nhất quán giữa các chính phủ các nước trong việc thiết lập chương trình nghị sự, và trở ngại trong việc triển khai và thực thi các khuôn khổ quản trị, khiến việc tuân thủ trở nên khó khăn. Ví dụ, mặc dù có khuôn khổ quản trị hiệu quả, Hội nghị lần thứ 27 của các bên về vấn đề biến đổi khí hậu (COP27) đã không đạt được mục tiêu theo đa số các nhà phân tích. Một ví dụ khác là COVID-19, trong đó việc thiếu khung quản trị khiến các quốc gia khó hợp tác và chia sẻ thông tin cũng như nguồn lực, dẫn đến phản ứng không nhất quán và rời rạc đối với khủng hoảng.

Việc thực hiện quy định về AI trong chăm sóc sức khỏe đòi hỏi một cách tiếp cận cân bằng và thận trọng để đảm bảo rằng lợi ích của AI được tối đa hóa trong khi giảm thiểu tác hại tiềm tàng. Sau khi đánh giá tất cả các khía cạnh của vấn đề, các tác giả đề xuất việc kết hợp mô hình quản trị quan hệ vào khung quản trị AI. Quản trị quan hệ là một mô hình xem xét các mối quan hệ giữa các bên liên quan trong quản trị AI. Việc triển khai quản trị AI trong chăm sóc sức khỏe ở cấp quốc tế, quốc gia, người dùng và ngành bằng cách sử dụng mô hình quản trị quan hệ đòi hỏi phải xem xét vai trò và trách nhiệm của từng bên liên quan trong việc đảm bảo việc sử dụng AI có trách nhiệm và đạo đức trong chăm sóc sức khỏe. Ở cấp độ quốc tế, quản trị quan hệ trong AI trong chăm sóc sức khỏe (AI-H) có thể được tạo điều kiện thuận lợi thông qua việc thiết lập các thỏa thuận và tiêu chuẩn quốc tế. Điều này bao gồm các thỏa thuận về quyền riêng tư và bảo mật dữ liệu, cũng như sự phát triển AI có đạo đức và minh bạch. Bằng cách thiết lập sự hiểu biết chung về trách nhiệm của từng bên liên quan trong quản trị AI, sự hợp tác quốc tế có thể giúp bảo đảm rằng AI được sử dụng một cách nhất quán và có trách nhiệm xuyên biên giới. Ở cấp quốc gia, quản trị quan hệ trong AI-H có thể được thực hiện thông qua các quy định và chính sách của chính phủ phản ánh vai trò và trách nhiệm của từng bên liên quan. Điều này bao gồm các luật và quy định về quyền riêng tư và bảo mật dữ liệu, cũng như các chính sách khuyến khích việc sử dụng AI-H một cách minh bạch và có đạo đức. Việc thiết lập các hệ thống giám sát/thẩm định định kỳ và các cơ chế thực thi cũng như áp dụng các biện pháp trừng phạt trong ngành vì không tuân thủ luật pháp đều có thể giúp thúc đẩy việc sử dụng AI một cách thích hợp.

Ở cấp độ người dùng, quản trị quan hệ trong AI-H có thể được thúc đẩy thông qua giáo dục và nâng cao nhận thức. Bệnh nhân và nhà cung cấp dịch vụ chăm sóc sức khỏe nên được thông báo về lợi ích và rủi ro của AI, cũng như các quyền và trách nhiệm của họ liên quan đến việc sử dụng AI. Điều này có thể giúp xây dựng lòng tin và sự tự tin trong các hệ thống AI, đồng thời khuyến khích việc sử dụng AI-H có trách nhiệm. Cuối cùng, ở cấp độ ngành, quản trị quan hệ trong AI-H có thể được thúc đẩy thông qua các sáng kiến và tiêu chuẩn dẫn đầu ngành. Điều này bao gồm việc thiết lập các tiêu chuẩn và quy tắc của ngành (ví dụ: Tổ chức Tiêu chuẩn hóa Quốc tế) dựa trên yêu cầu của người dùng (nhà cung cấp dịch vụ chăm sóc sức khỏe, bệnh nhân và chính phủ), cũng như triển khai các biện pháp bảo mật và quyền riêng tư dữ liệu trong các hệ thống AI.

Việc Ấn Độ chủ trì hội nghị thượng đỉnh G20 cung cấp nền tảng để bắt đầu đối thoại về quy định AI và nhấn mạnh sự cần thiết của việc thực hiện các quy định AI trong chăm sóc sức khỏe. Các thành viên G20 có thể hợp tác để tạo ra quy định về AI, xem xét các nhu cầu và thách thức riêng của lĩnh vực chăm sóc sức khỏe. Họ có thể khám phá nhiều cách để đảm bảo rằng dữ liệu bệnh nhân được an toàn đồng thời cho phép sử dụng AI một cách có trách nhiệm trong chăm sóc sức khỏe. Họ cũng có thể hướng tới việc thiết lập các phương pháp tốt nhất để phát triển các thuật toán AI, đảm bảo rằng chúng minh bạch, hợp đạo đức và chính xác. Tập hợp các biện pháp này, được thực hiện ở nhiều cấp độ khác nhau, sẽ đảm bảo rằng các hệ thống AI thường xuyên được xem xét và cập nhật, đồng thời đảm bảo rằng chúng vẫn hiệu quả và an toàn cho bệnh nhân.

Tác giả: Viola Savy Dsouza - ORF

Trung tâm Nghiên cứu Ấn Độ