随着数字智能技术的不断进步,人工智能技术在电气自动化控制系统、智能驾驶系统、智能家居家电系统、城市智能管理决策系统、智能语言文学编制系统、智能教育系统、智能医疗诊断系统中的应用日益广泛。如何确保这些人工智能化系统在组织开发实现生命周期过程中满足ISO/IEC 42001:2023《信息技术—人工智能—管理体系》(以下简称ISO/IEC 42001)相关要求,本文通过该标准在智能中医诊断系统中的应用案例加以分析。
一、人工智能系统生命周期
根据ISO/IEC 42001的A.6要求,智能中医诊断系统的生命周期管理需聚焦以下环节,以确保生命周期管理文档化设计的目标与流程。
以正在开发的智能中医诊断系统为例,组织在开发该系统前应制定开发实现的目标和流程,并按目标和流程要求制定开发计划,计划中明确智能中医诊断系统生命周期模型——本系统实际为“迭代+瀑布”模型。根据模型明确各阶段的任务安排、责任人、责任部门、各阶段任务期限、实现的目标、工作产品、系统风险、验收标准等控制信息。其中,智能中医诊断系统实施和控件目标,通过系统的“望、闻、问、切”等智能化手段获取被诊断人的生理或病理信息,与汉方的基础数据实现人工智能化诊断,其结果供诊断方(如医生)诊断参考并决策,通过临床试验(引用文献/测试报告),系统诊断符合率达99%(样本量N=XX),符合IEC 62304《医疗器械软件生存周期过程》的合规要求。
首先,在系统实现生命周期各阶段中,组织应关注智能中医诊断系统的系统需求。系统需求应满足汉方中涉及的四大中医名著[《难经》《黄帝内经》《伤寒杂病论(伤寒论+金匮要略)》《神农本草》]的理论要求,并考虑采用国家相关中医诊断法规和技术要求进行系统分析,制定智能中医诊断系统需求分析说明,并对需求分析说明组织具备可实现性、符合性、合规性、公正性等要求的评审。
其次,根据该系统需求分析结果,进行智能中医诊断系统的设计开发,编制设计开发说明。在设计开发活动中,应关注实现系统需求的“望、闻、问、切”等智能化系统设计中的算法、模型或工具的最佳实现,确保设计结果达到计划中的目标要求,并通过设计评审、验证和确认活动实现系统的设计控制,确保设计能够满足中医五行生克关系。通过决策树模型,将中医中一些原则转化为症状权重调整规则,并形成完整的设计文档、针对工具或模型。
另外,还要制作系统涉及的硬件样品和小批样并验证和确认,确保系统的硬件满足要求,其中硬件系统主要包括:智能切脉子系统、智能舌诊子系统、智能面诊子系统、智能语音提问子系统、智能听声子系统及系统平台的云服务等。
二、人工智能系统数据
根据ISO/IEC 42001的A.7要求,智能中医诊断系统的数据管控需聚焦下述环节,以确保组织了解人工智能系统中数据在其整个生命周期的应用、开发、提供以及使用中的作用和影响。
(一)用于开发和增强人工智能系统的数据及数据获取和质量控制
智能中医诊断系统的基础数据(即系统的标本数据)来源主要涉及《难经》《黄帝内经》《伤寒杂病论(伤寒论+金匮要略)》《神农本草》中医四大名著,其中诊断数据包括方剂的数据,主要来源于汉方的《伤寒杂病论(伤寒论+金匮要略)》,数据预处理方法如下:
1.可基于自然语言处理技术(NLP),将《伤寒论》中的方剂与症状关系转化为结构化知识图谱;
2.临床试验数据,如:根据XX医院2023年对500例患者的双盲测试,系统诊断结果与专家委员会的一致性为98.6%;
3.中医诊断的量化方法可参考《中医辨证论治的机器学习模型构建》(2022年AI+中医领域论文);
4.ISO/IEC TR 24028标准相关的数据治理要求。
总之,基础数据在确保质量的同时,还应根据六经(太阳、阳明、少阳、太阴、少阴、厥阴)辨证之八纲(寒热、表里、虚实、阴阳)观点进行基础数据的分类、分析。
病理数据通过智能传感器(如舌象仪、脉诊仪)采集,获取被诊断人的病理信息,并基于《中医诊断学》(朱文锋, 2007)中的量化标准进行特征提取,确保数据符合ISO/IEC 42001的A.7.3数据质量控制要求和数据信息的准确性要求,并与系统的基础大数据进行智能化对比、分析,确保诊断结果符合病理特征,实现智能诊断并出诊断结果,形成诊断报告,开出经方。
(二)数据合规性保障
患者隐私保护、数据跨境传输等应满足ISO/IEC 42001的A.7.5要求,控制方法如下:
1.舌象、脉象等生物识别信息在边缘计算设备完成特征提取,加密传输特征向量至云端;
2.诊断数据使用范围通过《医疗机构患者知情同意书》明确,并经第三方伦理委员会审查;
3.云服务器部署于境内,满足《网络安全审查办法》对医疗数据本地化存储的要求。
三、人工智能系统相关方的信息
根据ISO/IEC 42001的A.8要求,智能中医诊断系统向相关方提供信息的管控需聚焦以下环节,确保利益相关方掌握必要的信息,了解和评估风险及其影响(正面和负面)。
智能中医诊断系统的用户主要是各医院的医生。智能中医诊断系统的开发组织应确定并向智能中医诊断系统的用户提供必要信息,包括使用说明、系统操作的技术要求、所需的计算资源、系统局限性及预期使用期限、诊断原理、报告潜在的输出等,并向相关方(医疗主管机构、医院、医生、被诊者等)报告系统负面影响的能力,如:当前系统对《伤寒论》未覆盖的罕见病诊断准确率较低(测试结果为82%),未来需结合增量学习优化模型泛化能力;如有诊断事件,包括与信息安全或隐私相关情况的发生,组织应及时了解并通知用户和其他相关方;在司法管辖区可要求与监管机构等官方机构共享有关智能中医诊断系统的信息。
四、人工智能系统的使用
根据ISO/IEC 42001的A.9要求,智能中医诊断系统的应用管控需聚焦以下环节,确保组织按照组织策略使用人工智能系统。
针对智能中医诊断系统开发方(可以是医院信息中心,也可以是第三方),组织应依据用户(如医院和医疗主管机构)的要求,制定如何使用智能中医诊断系统的流程,供最终用户在得到批准的情况下使用该系统,并确保使用该系统的公正性、问责制、透明度、可解释性、可靠性、安全性、稳定性和耐久性、隐私和安全、易用性,确保部署使用达到预期用途。
总之,在开发人工智能系统时,在其生命周期内组织应按ISO/IEC 42001标准的上述相关要求进行控制,确定人工智能系统满足目标和预期用途要求。