WHO发布大型多模态人工智能伦理和治理指南
世卫组织发布关于大型多模式模型(LMM)伦理和治理的新指南,LMM是一种在医疗保健领域快速增长的生成式人工智能技术。该指南概述了LMM在医疗保健领域的五大应用,详细说明了LMM使卫生系统面临的更广泛风险,并为政府、科技公司和医疗保健提供者提供了40多项建议,以确保适当使用LMM促进和保护人类健康。
- LMM在医疗保健领域的应用场景:
- 回应患者的书面问询
- 探讨症状与治疗方法
- 在电子健康记录中登记患者的访问情况
- 诊断和临床护理
- 患者自主使用
- 文书和行政工作
- 医疗和护理教育
- 科学研究和药物研发
- LMM在卫生系统中面临的风险:
- 生成虚假、不准确、有偏见或不完整的陈述
- 数据质量堪忧,存在偏见
- 过度依赖LMM导致忽略人工发现的差错
- 网络安全风险,危及患者信息安全和算法可信度
- 建议和治理措施:
- 政府应提供公共资源支持LMM的开发和部署
- 使用政策法规确保LMM的医疗应用遵循伦理义务和人权标准
- 创建或指定专门机构评估和批准LMM的应用
- 从早期阶段就让潜在用户和利益攸关方参与LMM的开发
- 确保LMM以准确性和可靠性执行明确定义的任务
综上所述,世卫组织的新指南提供了关于大型多模式模型(LMM)伦理和治理的详细指导,旨在确保LMM在医疗保健领域的适当应用,以促进和保护人类健康。