移动应用人工智能模型安全风险研究  

作　　者：张妍 黎家通[1] 李经纬 王凌志 曹予馨 

机构地区：[1]中国科学院大学网络空间学院 [2]中国科学院信息工程研究所

出　　处：《保密科学技术》2022年第3期46-51,共6页Secrecy Science and Technology

摘　　要：随着深度学习技术的广泛运用,移动应用越来越多地开始使用Tensorflow等深度学习框架实现智能推理功能。然而支撑这些功能的人工智能模型面临着大量安全风险。本文调研了Tensorflow框架在移动应用中的使用现状,并提出了一种移动应用程序人工智能模型安全分析方法,能够自动提取及分析模型文件、识别加密模型。同时,通过模型窃取、模型逆向、模型替代和参数篡改等方法,对移动应用程序中的人工智能模型安全性进行了分析。

关 键 词：深度学习安全 静态分析技术 动态监测技术 

分 类 号：TP309[自动化与计算机技术—计算机系统结构]