面向人工智能系统的“万能钥匙”攻击及其防范方法  

作　　者：刘正坤 陈华 赵静 霍钰 崔宇 

机构地区：[1]国网思极网安科技(北京)有限公司

出　　处：《中国信息化》2024年第8期30-31,共2页

摘　　要：在生成式人工智能中,直接提示注入攻击是构造恶意的用户输入,试图绕过人工智能模型的预期行为。成功的直接提示注入攻击有可能颠覆模型通过人工智能供应商的训练构建的大部分人工智能(RAI)防护措施。微软威胁情报中心发现了一种最新的直接提示注入攻击,被称为“万能钥匙”攻击。本文介绍了这种攻击的实现细节,以及防范的方法。

关 键 词：人工智能系统 万能钥匙 注入攻击 防范方法 威胁情报 实现细节 预期行为 人工智能模型 

分 类 号：TP3[自动化与计算机技术—计算机科学与技术]