全球智点·全球发展倡议丨世卫组织呼吁加强对医疗AI技术的监管
来源:bob体彩官网 发布时间:2024-02-17 12:34:21
编者按:百年未有之大变局,全球风险急剧上升。各个国家和地区如何求生存,谋发展,搞竞合,争未来?谁来指南找北?2021年,中国提出全球发展倡议,聚焦减贫、粮食安全、抗疫和疫苗、发展筹资、气候平均状态随时间的变化和绿色发展、工业化、数字化的经济、相互连通等八大领域国际合作,是对以上问题提出的“中国答案”。在八大领域内,世界各国智库各显神通,仰观俯察,深思熟虑,出谋划策。北京大学区域与国别研究院特开辟全球智点·全球发展倡议卡片专栏,以极简方式提炼要点,为促进全球发展倡议下各领域国际合作提供智力支持。同时,也欢迎读者循例投稿,形成全球智点·全球发展倡议的爆炸式扩散效应。
LMM 是一项发展快速的生成式人工智能技术(generative artificial intelligence)。它可接受一种或多种类型的数据输入,例如文本、视频和图像,并生成不限于输入数据类型的多种输出。LMM的独特之处在于其具备模仿人类沟通方式和执行未明确任务的能力。LMM可以被大范围的应用于医疗卫生领域,它的普及速度很快,能够像ChatGPT一样快速流行。
观点:AI技术在整个医疗卫生领域应用前景广阔,但同时也需要各国、各主体对其中也许会出现的风险加以防范。
背景:在充分识别相关风险的情况下,生成式人工智能技术有潜力改善医疗保健。世卫组织发布了关于LMM的道德和治理指南,该指南概述了40多项建议,供政府、科技公司和医疗保健提供商参考。
1. LMM在健康方面有五大应用场景:协助诊断和临床护理;提供就医指导;处理文书和行政任务;参与医疗和护理教育以及科学研究和药物开发。
2. LMM的应用也存在风险。例如,LMM可能会提供不准确、不完整的信息。除此之外,和别的形式的人工智能一样,LMM也容易受到网络攻击,导致患者信息泄露或有损算法可信度。
3. 为了创建安全有效的LMM,世卫组织认为需要各利益攸关方参与。政府、技术公司、医疗保健提供商、患者和民间社会应该参与此类技术开发和部署的所有阶段,并为技术的应用过程提供监督。
1. 投资或建设数字公共基础设施。遵守道德原则的基础上,公共、私营和非营利部门的研发人员可以访问的计算能力和公共数据集。
2. 使用法律、政策和法规来确保医疗保健和医学中使用的LMM和应用程序,使这一技术的使用符合保障个人尊严或隐私的道德义务和人权标准。
3. 在资源允许的情况下,指派一个现有或新的监督管理的机构来评估和审批计划应用于医疗保健领域的LMM。
4. 当大规模部署LMM时,由独立第三方引入强制性审计和影响评估,包括数据保护和人权评估,并对评估结果予以公布。
1. 在AI发展的早期阶段就有必要进行结构化、包容、透明的设计,并适时对道德问题表达担忧。
2. LMM一定要具有准确性和可靠性才能提高卫生系统的能力并保障患者健康,因此,研发人员还应预测和理解潜在的次要结果。
来源:《世卫组织发布了多模态大模型的人工智能道德和治理指南》,世界卫生组织(World Health Organization),2024年1月18日,