toringuyen0509
Well-known member
Gần đây ở đâu cũng thấy AI, ở đâu cũng thấy những công cụ giúp phản hồi thông tin 1 cách mượt mà. Trong y học cũng có rất nhiều nơi hứng thú với công nghệ mới này. Tuy nhiên để có thể thực sự áp dụng vào lĩnh vực vốn cần có sự chính xác cao này thì cần phải có nhiều đánh giá và thử nghiệm hơn. Nhất là trong việc hỗ trợ các bác sỹ đưa ra quyết định điều trị bởi nó còn liên quan đến mạng người nếu chỉ định không chính xác. Chưa kể nếu quản lý đầu vào không đủ chi tiết thì nó sẽ làm bệnh nhân mất đi niềm tin đối với hệ thống y tế nói chung, hay đối với công nghệ AI nói riêng. Vụ mất đi niềm tin này có thể sẽ làm ảnh hưởng đến hướng phát triển của công nghệ trong ngành y tế về dài hạn, điều đáng lý không nên có bởi công nghệ tiên tiến sẽ giúp ích rất nhiều cho người bệnh.
Chính vì vậy WHO đã đưa ra 1 số khuyến cáo đối với việc sử dụng công nghệ AI trong y học trong thời điểm hiện tại và cũng là định hướng trong việc sử dụng trong tương lai. Dưới đây là 1 số khuyến cáo về nguy cơ ảnh hưởng đến tính chính xác và tính đạo đức khi sử dụng AI của tổ chức này:
- Dữ liệu được sử dụng để huấn luyện AI có thể bị sai lệch, dẫn đến đưa ra các thông tin không chính xác có thể gây ảnh hưởng đến sức khỏe người bệnh, sự công bằng trong điều trị và tính bao quát về bệnh
- Các phản hồi từ công cụ tạo mô hình ngôn ngữ, language model tools LLM, có thể làm người dùng cuối hiểu rằng đó là quyết định cuối và quyết định có ý nghĩa. Tuy nhiên những phản hồi này có thể sai hoàn toàn và có những lỗi nghiêm trọng, đặc biệt khi liên quan đến vấn đề về sức khỏe
- LLM có thể được huấn luyện bằng các dữ liệu chưa được sự đồng ý trước đó của người cung cấp thông tin (ở đây là bệnh nhân). Có thể người bệnh đồng ý cho sử dụng thông tin bệnh án của mình, nhưng ở trong phạm vi khác, không phải để huấn luyện AI. Vậy nên LLM có thể không bảo vệ những thông tin nhạy cảm theo các chuẩn hiện hành.
- LLM có thể bị lợi dụng để tạo ra những thông tin sai lệch 1 cách tinh vi dưới dạng ký tự, âm thanh hoặc video. Việc này làm cho cộng đồng khó có thể phân biệt được đâu là thông tin thật đâu là thông tin giả.
- Cuối cùng, mặc dù WHO luôn khuyến khích sử dụng các cộng nghệ mới như AI và y tế số để nâng cao sức khỏe. Nhưng WHO vẫn khuyến cáo những nhà lập pháp ở các quốc gia cần đảm bảo sự an toàn của bệnh nhân trong quá trình phát triển các LLM có tính thương mại.
Để đảm bảo điều này WHO cũng đưa ra hướng dẫn về quản lý trong quá trình thiết kế, phát triển và triển khai AI trong lĩnh vực y tế. Trong đó có 6 điểm cốt lõi là:
1. Bảo vệ tính tự chủ của dữ liệu;
2. Đảm bảo an toàn cho con người;
3. Đảm bảo tính minh bạch, dễ giải thích và dễ hiểu;
4. Nâng cao trách nhiệm và trách nhiệm giải trình;
5. Đảm bảo tính toàn diện và sự công bằng;
6. Thúc đẩy những AI có khả năng đáp ứng nhanh và có tính bền vững