AI医疗电子应用中需要注意什么问题

　　1、数据泄露问题

　　医疗数据包括患者的身份信息、健康状况、疾病诊疗情况、生物基因信息等，不仅涉及患者隐私，还具有特殊的敏感性和重要价值，一旦泄露，可能给患者带来身心困扰和财产损失，甚至对社会稳定和国家安全造成负面影响。然而，医疗 AI 的研发与应用，必须依赖大量的医疗数据用于算法训练，数据量越大、越多样，其分析和预测的结果将越精准。但数据收集、分析处理、云端存储和信息共享等大数据技术的应用，加大了数据泄露的风险。事实上，近年来医疗行业已经成为数据泄露的重灾区。2017 年全球 15％的数据泄露事件来自医疗保健行业，仅次于金融业。我国医疗数据泄露事件也不鲜见。据《法制日报》2017 年 9 月报道，某部委医疗信息系统遭到黑客入侵，被泄露的公民信息多达 7 亿多条，8000 多万条公民信息被贩卖。2018 年多家医疗机构计算机系统被勒索病毒攻击。2020 年 4 月，某 AI 医学影像公司遭黑客入侵，其 AI 辅助系统和训练数据被窃取，并以 4 比特币（约合 18 万人民币）的价格在暗网上公开出售。这也是国内首家被曝数据泄露的医疗 AI 公司案例。

　　2、医疗安全问题

　　尽管医疗 AI 被赋予了准确、高效、安全等优点，但医疗活动本身具有一定的风险性和不确定性，加上手术机器人等医疗 AI 在应用中需要密切接触患者身体或直接作用于人体某些器官，不可避免地面临潜在风险。主要包括技术和人为两方面的因素。从技术来看，国内医疗 AI 的发展在当前还处于起步阶段，产品性能还不稳定，也缺乏相应的标准和规范，安全性还有待考证，需要在实践中不断调试改进。即使是较为成熟的进口产品，也存在诸多问题。据美国媒体报道，使用沃森肿瘤解决方案的医生发现，沃森经常会推荐不准确甚至错误的治疗建议。如果医生据此决策，后果难以设想。人为因素主要是医生操作不当。在现阶段，医疗 AI 还只是机器或程序，它不能根据实际情况调整自己的行为，必须依赖医生对机械进行操控或做最终决策。在应用之初，医生可能因经验不足、操作不熟练而引发机器故障，有的甚至会造成严重后果。如 2015 年 2 月，英国首例机器人心脏手术过程中出现“机器失控”，主刀医生在慌乱中应对失当，最终导致手术失败，患者一周后死亡。这起事故的原因，除机器故障外，与主刀医生操作经验不足、未充分估计手术风险有很大关系。