大模型安全风险、防护治理与法治建设  

作　　者：周辉[1] 

机构地区：[1]中国社会科学院法学研究所网络与信息法研究室

出　　处：《中国信息安全》2024年第6期18-20,共3页China Information Security

基　　金：中国社会科学院2024年度实验室孵化专项资助(项目名称:人工智能安全治理研究,编号:2024SYFH007)。

摘　　要：随着人工智能技术的迅猛发展,大模型在人工智能领域取得了显著的技术进步。然而,这些技术在为人类带来便利的同时,也伴随着一系列安全威胁和挑战。目前,业界就如何增强大模型安全防护已经进行了一定的实践探索,尝试通过完善内控制度、建立审核机制、及时进行评估审计和应用技术工具等方式来加强大模型的安全性。未来,还需要从制度层面进一步推动大模型安全法治建设,提升风险防范的有效性,保障大模型研发和应用全流程中的安全性。

关 键 词：人工智能技术 威胁和挑战 安全防护 防护治理 法治建设 审核机制 实践探索 安全风险 

分 类 号：TP309[自动化与计算机技术—计算机系统结构] TP18[自动化与计算机技术—计算机科学与技术]