基于人工智能安全治理框架的大模型系统安全防护研究  

作　　者：吕延辉 张博 高彦恺 

机构地区：[1]北京天融信网络安全技术有限公司

出　　处：《中国信息安全》2024年第10期38-41,共4页China Information Security

摘　　要：2022年11月,OpenAI发布了基于生成式人工智能大模型的问答机器人应用ChatGPT,与以往同类应用相比,ChatGPT显著提升了对内容的通用理解与生成能力,引起了全球各行业的广泛关注。人工智能快速进入大模型时代,大模型正在发展成为新一代信息基础设施。根据中国信通院发布的《全球数字经济白皮书(2024年)》,截至2024年7月,全国已有197项生成式人工智能服务通过备案审核,标志着我国在规范人工智能市场和推动技术健康发展方面取得了重要进展。然而,大模型在带来巨大发展机遇的同时,也带来了新的安全风险与挑战。2024年9月9日,全国网络安全标准化技术委员会(以下简称“网安标委”)正式发布《人工智能安全治理框架》(以下简称《框架》),为大模型安全风险分析和防护能力建设提供了顶层指导。

关 键 词：人工智能 机器人应用 网络安全 系统安全防护 信息基础设施 安全风险分析 OPEN 防护能力 

分 类 号：TP3[自动化与计算机技术—计算机科学与技术]