BMC Medicine

Nghiên cứu trí tuệ nhân tạo (AI) trong chăm sóc sức khỏe đang tăng tốc nhanh chóng, với các ứng dụng tiềm năng được minh chứng trong nhiều lĩnh vực y học. Tuy nhiên, hiện nay chỉ có một số ít ví dụ thành công về những kỹ thuật này được triển khai vào thực tiễn lâm sàng. Bài báo này khám phá những thách thức và hạn chế chính của AI trong chăm sóc sức khỏe và xem xét các bước cần thiết để chuyển đổi các công nghệ có thể biến đổi này từ nghiên cứu sang thực tế lâm sàng.

Những thách thức chính cho việc chuyển giao các hệ thống AI trong chăm sóc sức khỏe bao gồm những thách thức nội tại của khoa học học máy, khó khăn về mặt logistics trong việc thực hiện và cân nhắc đến rào cản áp dụng cũng như những thay đổi cần thiết về văn hóa xã hội hay quy trình. Đánh giá lâm sàng chặt chẽ qua các thử nghiệm ngẫu nhiên đối chứng nên được xem là tiêu chuẩn vàng để tạo ra bằng chứng, nhưng thực hiện những điều này trong thực tế có thể không phải lúc nào cũng phù hợp hoặc khả thi. Các chỉ số hiệu suất nên nhằm mục tiêu nắm bắt được tính ứng dụng lâm sàng thực sự và dễ hiểu đối với người dùng dự kiến. Quy định cân bằng giữa tốc độ đổi mới và khả năng gây hại cùng với sự giám sát sau thị trường chu đáo là rất cần thiết để đảm bảo rằng bệnh nhân không bị phơi nhiễm với các can thiệp nguy hiểm cũng như không bị thiếu cơ hội tiếp cận với các đổi mới có lợi. Cần phát triển các cơ chế để so sánh trực tiếp các hệ thống AI, bao gồm sử dụng các bộ thử nghiệm độc lập, địa phương và đại diện. Các nhà phát triển thuật toán AI cần phải cảnh giác với các nguy cơ tiềm ẩn, bao gồm sự thay đổi trong tập dữ liệu, việc vô tình gán khớp những yếu tố gây nhiễu, sự thiên vị phân biệt không mong muốn, thách thức của sự tổng quát hóa cho các dân số mới, và các hậu quả tiêu cực không mong muốn của các thuật toán mới đối với kết quả sức khỏe.

Việc chuyển đổi an toàn và kịp thời từ nghiên cứu AI sang các hệ thống đã được xác nhận lâm sàng và điều tiết một cách thích hợp, có thể mang lại lợi ích cho mọi người, đang đối mặt với nhiều thách thức. Đánh giá lâm sàng mạnh mẽ, sử dụng các chỉ số dễ dàng tiếp cận với các bác sĩ lâm sàng và lý tưởng vượt ra ngoài các biện pháp để bao gồm chất lượng chăm sóc và kết quả của bệnh nhân, là rất cần thiết. Cần thực hiện thêm công việc để (1) xác định các chủ đề về thiên vị và thiếu công bằng trong thuật toán trong khi phát triển các giải pháp để giải quyết chúng, (2) giảm sự mỏng manh và cải thiện khả năng tổng quát hóa, và (3) phát triển các phương pháp cải tiến khả năng giải thích của dự đoán học máy. Nếu đạt được những mục tiêu này, lợi ích cho bệnh nhân chắc chắn sẽ mang tính cách mạng.

Việc đánh giá hiệu suất hiệu chuẩn của các mô hình dự đoán rủi ro dựa trên hồi quy hoặc các thuật toán máy học linh hoạt hơn chưa nhận được nhiều sự chú ý.

Trong bài viết này, chúng tôi lập luận rằng điều này cần phải thay đổi ngay lập tức vì các thuật toán hiệu chuẩn kém có thể gây hiểu lầm và có thể gây hại cho quy trình ra quyết định trong lâm sàng. Chúng tôi tóm tắt cách tránh hiệu chuẩn kém trong quá trình phát triển thuật toán và cách đánh giá hiệu chuẩn trong quá trình xác thực thuật toán, nhấn mạnh sự cân bằng giữa độ phức tạp của mô hình và kích thước mẫu sẵn có. Tại giai đoạn xác thực bên ngoài, các đường cong hiệu chuẩn yêu cầu mẫu đủ lớn. Việc cập nhật thuật toán nên được xem xét để hỗ trợ thích hợp cho thực hành lâm sàng.

Cần có nỗ lực để tránh hiệu chuẩn kém khi phát triển các mô hình dự đoán, để đánh giá hiệu chuẩn khi xác thực các mô hình, và để cập nhật các mô hình khi cần thiết. Mục tiêu cuối cùng là tối ưu hóa tính hữu ích của phân tích dự đoán cho việc ra quyết định chia sẻ và tư vấn cho bệnh nhân.