大模型的安全风险及应对建议  

作　　者：虎嵩林[1] 

机构地区：[1]中国科学院信息工程研究所

出　　处：《中国信息安全》2024年第6期14-17,共4页China Information Security

摘　　要：习近平总书记指出:“要重视通用人工智能发展,营造创新生态,重视防范风险”。近年来,以生成式预训练大模型(GPT)为代表的生成式人工智能大模型(简称“大模型”)迅猛发展,显著提升了通用理解和生成能力,但也带来了前所未有的安全风险。本文在梳理当前大模型的认知应用、信息应用和物理应用三类应用模式的基础上,分析其对国家安全的冲击。因此,本文建议建立国家级大模型安全科技平台,抢占人工智能安全科技制高点,突破大模型安全关键技术,培育人才队伍,助力人工智能安全产业集群发展,为人工智能大模型的可持续健康发展保驾护航。

关 键 词：人工智能 防范风险 创新生态 生成能力 物理应用 科技平台 培育人才 生成式 

分 类 号：TP309[自动化与计算机技术—计算机系统结构] TP18[自动化与计算机技术—计算机科学与技术]