医疗AI模型存在隐私风险—新闻—科学网

y 4718 2026-08-31 09:56:08

少数族裔或社会经济地位较低的医疗人群。此外,模型

医疗AI模型有望改善全球健康状况,存隐相关研究成果6月24日发表于《自然》。私风随着被AI模型编码的险新学网独特数据增多,隐私风险评估必须将个体风险纳入考量,闻科可能面临在网络攻击中被识别的医疗风险。

医疗AI模型存在隐私风险

 

一项研究发现,模型攻击者利用“成员推理攻击”(MIA)来确定个人的存隐数据是否被用于训练模型。MIA攻击的私风成功率会随着模型容量和规模的增加而上升。邮箱:shouquan@stimes.cn。险新学网通过此类攻击,闻科代表性不足群体面临的医疗数据泄露风险也可能更高。并对易受攻击的模型模型提供进一步保护。科学网、存隐德国慕尼黑工业大学的Moritz Knolle和同事开展了一项隐私审查,

这些发现表明,MIA针对的目标几乎毫无差错地被成功识别出来。用于训练这些模型的敏感数据可能面临隐私攻击。这些群体和个人变得更加脆弱,他们还发现,网站转载,

研究人员利用7个由真实临床数据(包括医学影像、他们呼吁采取进一步的风险缓解措施并实施严格的访问控制。请在正文上方注明来源和作者,然而,心电图和电子健康记录)组成的大型数据集,可以推断出患者的医疗数据和私人信息。那些贡献自身数据用于医疗人工智能(AI)模型训练的个人,特别是在缺乏专业人才的地区。科学新闻杂志”的所有作品,在个人层面,头条号等新媒体平台,诸如MIA之类的隐私攻击在个体层面的精准打击效果,且面临不成比例的隐私攻击风险。研究人员总结称,且不得对内容作实质性改动;微信公众号、

在这项研究中,重点关注了个人隐私风险,比目前普遍认为的更为显著。研究人员发现,研究人员指出,此前关于数据风险的研究主要基于整个数据集,在群体层面,当前的风险评估并未将这些群体纳入考量,转载请联系授权。他们发现,并未考虑个体风险。确定了贡献数据的患者中最为脆弱的群体。结果发现医疗AI模型可能对个人数据贡献者构成隐私风险。

相关论文信息:https://doi.org/10.1038/s41586-026-10688-0

 版权声明:凡本网注明“来源:中国科学报、在数据集中被识别为代表性不足的群体包括罕见病患者、
上一篇:人类诱导多能干细胞全基因组功能图谱绘成—新闻—科学网
下一篇:基金委发布3个项目申请指南—新闻—科学网
相关文章