人工智能医学软件抗攻击能力检测方法研究  

Research on the Detection Method of Anti Attack Ability of AI Medical Software

作　　者：李丹[1] 刘杰[1] 马燕娇 汤锦依 章婷华 LI Dan;LIU Jie;MA Yanjiao;TANG Jinyi;ZHANG Tinghua(CEPREI,Guangzhou 511370,China)

机构地区：[1]工业和信息化部电子第五研究所,广东广州511370

出　　处：《电子产品可靠性与环境试验》2022年第6期39-44,共6页Electronic Product Reliability and Environmental Testing

基　　金：国家重点研发计划项目“人工智能医学信息系统软件测试审评方法研究及其数据库开发”(2019YFC 0118800)资助。

摘　　要：人工智能医学软件由于其智能化特征和领域特殊性,可能面临渗透攻击、对抗攻击、模型窃取和隐私泄露等更加多样的网络安全威胁,其抗攻击能力至关重要。研究了人工智能医学软件抗攻击能力检测方法,提出了人工智能医学软件攻击性测试规格化方案,为攻击性测试精细化管理提供了基础。Due to its intelligent characteristics and domain specificity,AI medical software may face more diverse network security threats,such as penetration attacks,adversarial attack,model extraction and privacy leaks,so its anti attack capability is crucial.The detection method of anti attack ability of AI medical software is studied,and a standardized scheme for AI medical software attack testing is proposed,which provides a basis for fine management of attack testing.

关 键 词：对抗攻击 模型窃取 成员推断 模型逆向 渗透测试 

分 类 号：TP311.55[自动化与计算机技术—计算机软件与理论]