“AI大模型”应用于医疗健康,或将面临哪些风险与挑战?
(资料图)
当前,在“AI大模型”与医疗健康的结合下,疾病诊疗、新药开发、临床研究等领域随之产生一系列变革。
“AI大模型在医疗健康的七大领域已有部分探索性应用,这七大领域包括:医疗服务、运营管理、患者服务以及科教研、药品供应、传统医学与公共卫生。”中国信通院云大所副所长闵栋在日前举办的2023世界人工智能大会上表示,但目前上述应用大多处于按科室或单病种的个案研究状态,尚未进行大范围推广,并且,不同领域AI大模型的应用机会、产生影响程度和成熟速度上的差异仍然较大。
闵栋举例,比如,医疗服务上,AI大模型可根据医疗信息生成诊断决策(这需要AI大模型针对聊天、网页、开源文献等大量自然语言处理数据训练,并自动补偿桌重点和关键信息,不断进化);再如,运营管理上,AI大模型可以产生结构化的医疗纹文书并实现内容质控(对ChatGPT下达指令,即可以生产排版的出院小结),以及可产生管理用表单并辅助决策;此外,患者管理上,AI大模型可以用通俗的语言为患者用药进行答疑和导诊。
除此之外,之前很长一段时期内,AI大模型也通过靶点发现、复杂分子结构和序列的筛选、药物安全性评估等来加速药物研发进程;而在公共卫生方明,AI大模型也被爱丁堡大学亚瑟人口健康科学学院一项分析用来对“新冠疫苗阻断疫情人群传播的有效性”进行模拟分析。
事实上,由于患者需求使然,AI大模型率先落地的场景仍然是“医院”,但仍有其局限性,“AI大模型可以覆盖患者预问诊、分诊、导诊,以及导航推送、科普教育等功能,“不过我们仍然要考虑,是否针对AI大模型有一个评价、监管的工具,大量的个人诊疗隐私如何做到合理、安全使用。”复旦大学附属中山医院党委书记顾建英表示。
而AI大模型在科教研层面产生了诸多业内争议。闵栋称,在临床科研过程中,尽管AI大模型能在选题立项上生成综述和参考文献,在研究方案设计时生成新视角和新思路,并且自动生成同行评议结果,“但AI大模型对科研的风险在于,一方面可能会被认为伪造了参考文献,另一方面,由此产出的科研贡献难以甄别,也无法对生成的内容负责。”
但其仍然面临不少风险与挑战。业内人士告诉记者,医疗健康领域存在特殊性,对医疗数据质量与安全,患者隐私保护要求很高,为此,AI大模型或将面临技术成熟度风险,医学数据质量与安全风险,和医疗服务公平性风险。
详细来说,技术成熟度的风险在于AI大模型的算法可能会局限并导致内容失真,算力不足导致效率过低;医学数据质量与安全风险在于模型训练的数据质量不高,存在隐私风险;医疗服务公平性风险在于模型生成的内容存在虚假、错误,以及算法偏见导致的不公平。
为此,闵栋建议,可以从三个方面给予解决方案。第一,推动算法平台建设及算力设施部署,来形成适配医疗健康AI大模型的算力资源服务模式。第二,是构建规范化、标注化的训练用专病数据库,来保障AI大模型的可靠、真实性及安全。第三,是推动人工智能医疗应用合规,包括支持建设一批相关检测机制、合规审核、应用规范等。
“下一步,应该要研制出符合医疗健康行业应用特色的AI大模型标准框架。我们的初步设计是:基础设施层,包括数据准备、模型开发、开发平台;模型层,包括语言大模型、图像大模型、音频大模型等;应用层,包括生成文本、生成图像、生成音频等。” 闵栋补充。
关键词:
相关阅读
-
“AI大模型”应用于医疗健康,或将面临...
AI大模型或将面临技术成熟度,医学数据质量与安全,和医疗服务公平性方 -
应急管理部:上半年中国自然灾害致4876....
中新社北京7月7日电(记者陈溯)记者7日从中国应急管理部获悉,上半年, -
莘莘学子立志勇攀地学高峰
本报讯(记者刘晓慧)为期两天的中国地质调查局中国地质科学院2023年优 -
金城医药再获药品上市批准 仿制药、原...
近日,金城医药发布公告,其全资子公司上海金城素智药业有限公司(以下 -
工银瑞信中证国新央企现代能源ETF即将发行
当前,我国步入构建现代能源体系的新阶段。央国企在保障能源安全稳定供 -
烟台银行:取消发行“23烟台银行CD085”
2023年7月6日,烟台银行股份有限公司发布公告称,取消发行。点击了解本 -
40℃! 入夏以来最强高温来袭!面对“...
“小暑一过,日热三分”小暑过后很快会进入三伏天即将迎来一年中最... -
一张蜀地汉风的唯美画卷 原创汉文化餐...
02:197月8日,集乐舞演绎、光影艺术、餐饮体验于一体的原创汉文化餐秀 -
高温天心梗高发,急救能用硝酸甘油吗?...
央广网北京7月7日消息(记者雷妍)据中央气象台消息,7月7日,我国多地 -
这名深信院学子一毕业就手握5份录用通知
近日,就读于深圳信息职业技术学院智能控制技术专业的刘红泽,决定入职 -
石景山有6个小区28栋楼!北京2023年首批...
石景山有6个小区28栋楼!北京2023年首批老旧小区综合整治项目名单公布 -
欧盟将出资5亿欧元加大弹药生产以输送给...
欧盟7月7日宣布,将出资5亿欧元加大弹药生产以输送给乌克兰,同时补充 -
镜观中国丨双面“绣”姑苏
中国农科新闻网是农业科技报社顺应网络时代新媒体发展趋势,在三农领域 -
无线路由器设置桥接教程(无线路由器桥...
无线路由器桥接设置的方法是:1 打开浏览器,在URL中输入路由器的ip地 -
乔尔杰维奇:压力山大,培养新教练
北京时间7月7日,辽宁男篮主教练杨鸣发文:感谢国家队能在繁重的比赛任 -
2023年睢宁县民办初中电脑派位学校公示表
备注:1 菁华学校、宁海学校直升报名人数超过招生计划数,所有报名学生 -
中超积分榜首尾大战很轻松?海港主帅哈...
本周末2023赛季中超将迎来半程收官战,7月8日上海海港队将在主场迎战大 -
南开区指导价(南开价格指数)
想必现在有很多小伙伴对于南开价格指数方面的知识都比较想要了解,那么 -
彩金贵妃醉酒金币价格今天多少一克(202...
金投网提供彩金贵妃醉酒金币价格今天多少一克(2023年07月07日),彩金 -
世博会生肖金条价格今天多少一克(2023...
金投网提供世博会生肖金条价格今天多少一克(2023年07月07日),世博会