型，他让团队测试了五十个疑难病例，准确率达到89%，已经超出他的预期了。但他提了个硬要求——算法必须能解释诊断逻辑，不能做‘黑箱子’。”
邹小东立刻皱起眉，这个问题正是研发团队最近的痛点。“‘可解释性’是医疗AI的行业难题。咱们的模型基于深度学习，很多决策过程是多层神经元共同作用的结果，要把每一步推理都拆解成医生能理解的医学术语，相当于要给算法做一套‘翻译系统’。目前团队能做到60%的病例可解释，剩下的40%还在攻关。”
童娟从随身的公文包里拿出一份文件：“这是我上周去京州调研时，收集的几家医院的反馈。除了可解释性，医生们还特别关注数据安全。有个肿瘤科主任跟我说，他们之前试过某家公司的AI系统，结果患者的基因数据被偷偷上传到了境外服务器，后来被监管部门叫停了。所以咱们这次合作，必须在合同里明确数据归属权，还要通过国家卫健委的数据安全认证。”