Một câu trả lời nghe chắc nịch và một câu trả lời đáng tin là hai chuyện khác nhau. Phần lớn AI lâm sàng tối ưu cho cái thứ nhất, còn chúng tôi xây Meddies quanh cái thứ hai.
Cơ chế bị che giấu chính là rủi ro trách nhiệm
Hỏi một chatbot y khoa thông thường một câu, nó đáp lại trôi chảy và chắc nịch. Nghe rất hợp lý. Thậm chí có thể đúng. Nhưng bác sĩ không có cách nào phân biệt một câu trả lời đúng với một ảo giác đầy tự tin, vì mô hình chẳng cho thấy gì ngoài kết luận. Lập luận, nguồn dẫn, chuỗi suy luận đã dẫn tới khuyến nghị: tất cả đều bị giấu kín.
Với phần lớn phần mềm, một cơ chế bị che giấu chỉ là chuyện bất tiện. Trong y khoa, nó là rủi ro trách nhiệm. Người chịu trách nhiệm về quyết định là bác sĩ, không phải công cụ. Bắt một bác sĩ hành động dựa trên một câu trả lời không kiểm chứng được chẳng khác nào bắt họ ký tên mình vào một phỏng đoán. Không bác sĩ nghiêm túc nào chịu làm vậy, và họ từ chối là đúng.
Nguồn dẫn đi cùng khuyến nghị
Hãy nhìn cách một bác sĩ cẩn trọng dùng tài liệu tham khảo. Họ không đọc cả cuốn hướng dẫn từ đầu đến cuối cho mỗi y lệnh. Họ chỉ tra đúng dòng liên quan đến người bệnh này: ngưỡng liều, tương tác, chống chỉ định. Tài liệu không nằm đó để dạy họ y khoa, mà để họ kiểm chứng nhanh đúng một điều đang trước mắt, rồi đi tiếp.
Một công cụ lâm sàng phải hỗ trợ đúng động tác đó. Khi Meddies đưa ra một khuyến nghị, nguồn dẫn đi cùng khuyến nghị. Không phải một câu chung chung kiểu "theo các hướng dẫn", mà là tài liệu cụ thể, chỉ một cú nhấp là mở ra. Với một tương tác thuốc, đó là Stockley và BNF. Với một chuẩn quốc gia, đó là số hiệu phác đồ của Bộ Y tế. Bác sĩ tra dòng đó, xác nhận hoặc bác bỏ, rồi đi tiếp.
Kiểm chứng mới chính là sản phẩm
Người ta dễ xem trích dẫn nguồn như một huy hiệu tin cậy gắn tạm bên ngoài mô hình. Không phải vậy. Nguồn dẫn trên từng câu trả lời mới là điểm khác biệt, vì nó thay đổi việc mà bác sĩ được yêu cầu làm. Không có nó, bác sĩ phải tin. Có nó, bác sĩ chỉ cần kiểm chứng. Lòng tin không thể nhân rộng trong một bệnh viện. Kiểm chứng thì có.
Điều này cũng siết kỷ luật cho chính hệ thống. Một mô hình buộc phải đính kèm một nguồn thật, trích dẫn được cho mỗi khuyến nghị thì khó trượt vào kiểu bịa đặt đầy tự tin hơn, vì lúc bịa thì chẳng có gì để dẫn. Yêu cầu phải trình ra lập luận sẽ giới hạn lại chính lập luận đó.
Quan điểm này có cơ sở thực nghiệm. Trong bài toán hỏi đáp y khoa, các mô hình tăng cường truy xuất (retrieval-augmented) đạt điểm trung thực cao hơn khi mỗi câu trả lời bắt buộc phải neo vào một nguồn được trích dẫn — một mô thức kết quả đã được ghi nhận trong các nghiên cứu về prompting bắt buộc trích dẫn cho RAG y khoa.
Các bản tóm tắt cũng được xử lý y như vậy. Mỗi dòng đều phải truy ngược về được bệnh án, để bác sĩ kiểm tra điều đang được nêu. Trích dẫn siết kỷ luật cho những gì mô hình nói ra, dù những gì một bản tóm tắt bỏ sót lại cần một lớp kiểm tra riêng.
Một trích dẫn bịa ra còn tệ hơn không có
Trình ra lập luận nghĩa là trình ra nguồn thật, nghĩa là chúng tôi sẽ không ngụy tạo nguồn. Một thẻ nguồn trên câu trả lời của Meddies nêu tên một hướng dẫn hay một tài liệu thực sự tồn tại và thực sự nói đúng điều chúng tôi tuyên bố. Chúng tôi không gắn các chỉ số bịa đặt, các xác nhận ngầm, hay logo của những tổ chức mà chúng tôi không có quyền viện dẫn. Một trích dẫn bịa ra còn tệ hơn không có trích dẫn, vì nó tạo ra đúng cái niềm tin sai lệch mà chúng tôi đặt mục tiêu xóa bỏ.
Vậy nên thước đo cho AI lâm sàng không phải là "nghe giống một bác sĩ". Nó là "để một bác sĩ kiểm tra được lập luận của nó trong vài giây mà vẫn chịu trách nhiệm về quyết định". Một khuyến nghị có dẫn nguồn, để bác sĩ kiểm toán được, luôn thắng một hộp đen tự tin — ở mọi chuyên khoa, cho mọi người bệnh.
Đó là lý do mọi câu trả lời đều dẫn nguồn. Đó là phiên bản duy nhất của AI lâm sàng mà một bác sĩ cẩn trọng cho phép đứng cạnh mình.