15/4/2024 (TinAI.vn) – AI sáng tạo, có thể tạo và phân tích hình ảnh, văn bản, âm thanh, video, v.v., đang ngày càng tiến sâu vào lĩnh vực chăm sóc sức khỏe, được thúc đẩy bởi cả các công ty Big Tech cũng như các công ty khởi nghiệp.
Google Cloud, bộ phận sản phẩm và dịch vụ đám mây của Google, đang cộng tác với Highmark Health, một công ty chăm sóc sức khỏe phi lợi nhuận có trụ sở tại Pittsburgh, để phát triển các công cụ AI tổng hợp được thiết kế để cá nhân hóa trải nghiệm tiếp nhận bệnh nhân. Bộ phận AWS của Amazon cho biết họ đang làm việc với những khách hàng giấu tên để tìm cách sử dụng AI tổng quát để phân tích cơ sở dữ liệu y tế nhằm tìm ra “các yếu tố xã hội quyết định sức khỏe”. Và Microsoft Azure đang giúp xây dựng một hệ thống AI tổng hợp cho Providence, mạng lưới chăm sóc sức khỏe phi lợi nhuận, để tự động phân loại các tin nhắn tới các nhà cung cấp dịch vụ chăm sóc được gửi từ bệnh nhân.
Các công ty khởi nghiệp AI có tính sáng tạo nổi bật trong lĩnh vực chăm sóc sức khỏe bao gồm Ambience Healthcare, công ty đang phát triển ứng dụng AI có tính sáng tạo dành cho bác sĩ lâm sàng; Nabla, trợ lý AI xung quanh dành cho các học viên; và Abridge, công ty tạo ra các công cụ phân tích tài liệu y tế.
Sự nhiệt tình rộng rãi đối với AI tạo sinh được phản ánh qua các khoản đầu tư vào các nỗ lực AI tạo sinh nhắm mục tiêu chăm sóc sức khỏe. Nói chung, AI sáng tạo trong các công ty khởi nghiệp chăm sóc sức khỏe cho đến nay đã huy động được hàng chục triệu đô la vốn đầu tư mạo hiểm và đại đa số các nhà đầu tư y tế nói rằng AI sáng tạo đã ảnh hưởng đáng kể đến chiến lược đầu tư của họ.
Nhưng cả chuyên gia và bệnh nhân đều còn băn khoăn về việc liệu AI tổng hợp tập trung vào chăm sóc sức khỏe đã sẵn sàng ra mắt hay chưa.
AI sáng tạo có thể không phải là điều mọi người mong muốn
Trong một cuộc khảo sát gần đây của Deloitte , chỉ khoảng một nửa (53%) người tiêu dùng Hoa Kỳ nói rằng họ nghĩ AI có tính sáng tạo có thể cải thiện hoạt động chăm sóc sức khỏe – ví dụ: bằng cách làm cho dịch vụ này dễ tiếp cận hơn hoặc rút ngắn thời gian chờ đợi cuộc hẹn. Chưa đến một nửa cho biết họ mong đợi AI có tính sáng tạo sẽ giúp việc chăm sóc y tế trở nên hợp lý hơn.
Andrew Borkowski, giám đốc AI tại VA Sunshine Healthcare Network, hệ thống y tế lớn nhất của Bộ Cựu chiến binh Hoa Kỳ, không cho rằng sự hoài nghi là không có cơ sở. Borkowski cảnh báo rằng việc triển khai AI tạo sinh có thể còn sớm do những hạn chế “đáng kể” của nó – và những lo ngại xung quanh tính hiệu quả của nó.
“Một trong những vấn đề chính của Generative AI là nó không có khả năng xử lý các truy vấn y tế phức tạp hoặc các trường hợp khẩn cấp”. “Nền tảng kiến thức hữu hạn của nó – nghĩa là thiếu thông tin lâm sàng cập nhật – và thiếu chuyên môn của con người khiến nó không phù hợp để cung cấp lời khuyên y tế toàn diện hoặc khuyến nghị điều trị.”
Trong một bài báo trên tạp chí JAMA Pediatrics, chatbot AI tổng hợp của OpenAI, ChatGPT, mà một số tổ chức chăm sóc sức khỏe đã thí điểm cho các trường hợp sử dụng hạn chế, đã được phát hiện mắc lỗi trong chẩn đoán bệnh nhi trong 83% trường hợp. Và khi thử nghiệm GPT-4 của OpenAI với tư cách là trợ lý chẩn đoán, các bác sĩ tại Trung tâm Y tế Beth Israel Deaconess ở Boston đã quan sát thấy rằng mô hình này đã xếp chẩn đoán sai làm câu trả lời hàng đầu gần hai phần ba.
AI sáng tạo ngày nay cũng phải vật lộn với các nhiệm vụ hành chính y tế vốn là một phần không thể thiếu trong quy trình làm việc hàng ngày của bác sĩ lâm sàng. Trên điểm chuẩn MedAlign để đánh giá mức độ AI tổng hợp có thể thực hiện những việc như tóm tắt hồ sơ sức khỏe bệnh nhân và tìm kiếm theo ghi chú, GPT-4 đã thất bại trong 35% trường hợp .
OpenAI và nhiều nhà cung cấp AI khác cảnh báo không nên dựa vào mô hình của họ để được tư vấn y tế . Nhưng Borkowski và những người khác nói rằng họ có thể làm được nhiều hơn thế. Borkowski cho biết: “Việc chỉ dựa vào AI tổng hợp để chăm sóc sức khỏe có thể dẫn đến chẩn đoán sai, phương pháp điều trị không phù hợp hoặc thậm chí là các tình huống đe dọa tính mạng”.
Egger nói: “Các kết quả có thể hoàn toàn sai và việc duy trì nhận thức về điều này ngày càng khó khăn hơn”. “Chắc chắn, AI có thể tạo ra có thể được sử dụng, chẳng hạn như để viết trước thư xuất viện. Nhưng các bác sĩ có trách nhiệm kiểm tra và đưa ra quyết định cuối cùng.”
AI sáng tạo có thể duy trì các khuôn mẫu
Một cách đặc biệt có hại mà AI tạo ra trong chăm sóc sức khỏe có thể mắc sai lầm là duy trì các khuôn mẫu.
Trong một nghiên cứu năm 2023 của Stanford Medicine, một nhóm các nhà nghiên cứu đã thử nghiệm ChatGPT và các chatbot tổng hợp khác được hỗ trợ bởi AI về các câu hỏi về chức năng thận, dung tích phổi và độ dày của da. Các đồng tác giả nhận thấy các câu trả lời của ChatGPT không chỉ thường xuyên sai mà còn bao gồm một số niềm tin không đúng sự thật đã được củng cố từ lâu rằng có sự khác biệt về mặt sinh học giữa người Da đen và người da trắng – những điều sai sự thật được biết là đã khiến các nhà cung cấp dịch vụ y tế chẩn đoán sai các vấn đề sức khỏe.
Theo một nghiên cứu của KFF, những người thiếu bảo hiểm chăm sóc sức khỏe – nói chung là người da màu – sẵn sàng thử AI tổng quát hơn cho những việc như tìm bác sĩ hoặc hỗ trợ sức khỏe tâm thần, cuộc khảo sát của Deloitte cho thấy. Nếu các khuyến nghị của AI bị sai lệch do thiên vị, nó có thể làm trầm trọng thêm sự bất bình đẳng trong đối xử.
Tuy nhiên, một số chuyên gia cho rằng AI tổng quát đang được cải thiện về mặt này.
Trong một nghiên cứu của Microsoft được công bố vào cuối năm 2023, các nhà nghiên cứu cho biết họ đã đạt được độ chính xác 90,2% trên bốn tiêu chuẩn y tế đầy thách thức khi sử dụng GPT-4. Vanilla GPT-4 không thể đạt được số điểm này. Tuy nhiên, các nhà nghiên cứu cho biết, thông qua kỹ thuật nhanh chóng – thiết kế các lời nhắc để GPT-4 tạo ra một số đầu ra nhất định – họ có thể tăng điểm của mô hình lên tới 16,2 điểm phần trăm. (Điều đáng chú ý là Microsoft là nhà đầu tư lớn vào OpenAI.)
Ngoài chatbot
Nhưng hỏi chatbot một câu hỏi không phải là điều duy nhất mà AI có thể làm được. Một số nhà nghiên cứu nói rằng hình ảnh y tế có thể được hưởng lợi rất nhiều từ sức mạnh của AI.
Vào tháng 11, một nhóm nghiên cứu Trung Quốc đã giới thiệu Panda , một mô hình AI được sử dụng để phát hiện các tổn thương tuyến tụy tiềm ẩn bằng tia X. Một nghiên cứu cho thấy Panda có độ chính xác cao trong việc phân loại các tổn thương này, thường được phát hiện quá muộn để can thiệp bằng phẫu thuật.
Thật vậy, Arun Thirunavukarasu, một nhà nghiên cứu lâm sàng tại Đại học Oxford, cho biết “không có gì đặc biệt” về AI tạo ra khả năng ngăn cản việc triển khai nó trong các cơ sở chăm sóc sức khỏe.
Ông nói: “Các ứng dụng trần tục hơn của công nghệ AI tổng quát là khả thi trong ngắn hạn và trung hạn, bao gồm chỉnh sửa văn bản, tự động ghi lại các ghi chú và thư cũng như các tính năng tìm kiếm được cải thiện để tối ưu hóa hồ sơ bệnh nhân điện tử”. “Không có lý do gì mà công nghệ AI tổng quát – nếu hiệu quả – lại không thể được triển khai ngay lập tức cho những loại vai trò này.”
“Khoa học nghiêm ngặt”
Nhưng trong khi AI tạo sinh cho thấy nhiều hứa hẹn trong các lĩnh vực y học cụ thể, hẹp, thì các chuyên gia như Borkowski chỉ ra các rào cản kỹ thuật và tuân thủ cần phải vượt qua trước khi AI tạo sinh có thể hữu ích và đáng tin cậy như một công cụ hỗ trợ chăm sóc sức khỏe toàn diện.
Ngay cả Thirunavukarasu, người lạc quan về AI trong lĩnh vực chăm sóc sức khỏe, nói rằng cần phải có “khoa học nghiêm ngặt” đằng sau các công cụ hướng tới bệnh nhân.
Ông nói: “Đặc biệt nếu không có sự giám sát trực tiếp của bác sĩ lâm sàng, cần có các thử nghiệm đối chứng ngẫu nhiên thực tế chứng minh lợi ích lâm sàng để biện minh cho việc triển khai AI tạo ra đối mặt với bệnh nhân”. “Việc quản trị phù hợp trong tương lai là điều cần thiết để nắm bắt mọi tác hại không lường trước được sau khi triển khai trên quy mô lớn.”
Gần đây, Tổ chức Y tế Thế giới đã ban hành các hướng dẫn ủng hộ loại hình khoa học này và sự giám sát của con người đối với AI tổng hợp trong chăm sóc sức khỏe cũng như giới thiệu các đánh giá kiểm toán, minh bạch và tác động đối với AI này bởi các bên thứ ba độc lập. Mục tiêu, WHO nêu rõ trong hướng dẫn của mình, sẽ là khuyến khích sự tham gia của nhiều nhóm người khác nhau vào việc phát triển AI tổng hợp cho chăm sóc sức khỏe và tạo cơ hội để bày tỏ mối quan ngại cũng như cung cấp đầu vào trong suốt quá trình.
