人工智能医疗器械临床试验伦理审查要点

　　近年来，随着技术的不断进步，诊断专家系统，医疗机器人等人工智能产品正不断应用于医疗领域，大幅提升了效率和效益，减轻了医护人员的工作量，但同时也不可避免地带来了关于医疗人工智能技术的伦理问题。这些问题，既有人工智能的共性问题，也有与医疗相关的特殊性伦理问题。伦理委员会审查人工智能医疗器械的核心问题包括风险评估、数据库、数据安全及软件更新。

　　1.难以准确评估风险

　　人工智能医疗器械的使用与健康息息相关，风险评估尤为重要。临床使用风险应考虑数据质量控制、算法泛化能力的直接影响和算力所用计算资源（即运行环境）失效的间接影响。为使风险最小化，确保人工智能医疗器械的可靠性，需在使用过程中评估其风险。伦理审查中应注意其考量因素是否包括了临床使用中的假阳性、假阴性和进口软件的中外差异，以及风险管理活动相关的预期用途、使用场景、核心功能及措施、要求。

　　2.构建恰当类型数据集

　　数据是人工智能医疗器械的核心要素，将成为制约人工智能医疗器械发展的瓶颈。因此，数据集的构建是人工智能医疗器械审批的先行之举，2019年7月17日之前我国仅存在肺结节和眼底两类影像标准数据集，未来将建立肺CT、脑磁共振、冠状动脉CT血管造影等更多测试样本标准数据集，且明确测试数据集的类型包含检验数据库、真实世界数据。基于足够数量的数据库样本用于训练人工智能医疗器械，将大幅降低其误诊率和漏诊率。

　　3.确保数据安全

　　数据安全已成为人工智能的关注重点。企业作为运营者应承担主体防护责任，主管部门应履行监管责任。数据安全性的提高需得到医疗机构的配合，医疗机构在对健康数据进行归档、备份等数据传输操作时，尤其是通过公共互联网传输敏感数据时，若未对敏感数据进行加密处理，容易造成患者治疗信息、基因等重要医疗健康数据信息泄露。

　　4.算法更新导致软件迭代

　　软件更新是导致人工智能软件召回的主要原因之一，应考虑对软件安全性和有效性的正面和负面影响。软件更新包括数据驱动型和算法驱动型软件更新，由此产生重大软件更新、轻微软件更新及其版本命名规则。人工智能的算法虽说只是一种数学表达，看似与价值无关，实际上却不可避免地存在主观偏见。这种偏见的来源是多方面的，既有可能来自于训练系统的数据输入，又有可能来自于编程人员的价值观嵌入。为加快人工智能医疗器械的审批，基于现有历史数据的回顾性研究可用于临床评价，甚至算法性能评估可采用属于回顾性研究的第三方数据库。

　　参考文献：

　　1）李鸿浩,段伟文,陈蕾,等.医疗人工智能技术研发与应用的伦理挑战和对策——以我国大型公立医院为例的思考[J].人工智能,2019,000（004）:P.70-78.
　　2）周吉银,李红英,杨阳.人工智能医疗器械的伦理审查要点[J].医学与哲学,2020:35-39.
　　来源：CIRS