大模型的安全挑战及应对建议  

作　　者：周瑜 周涛 

机构地区：[1]启明星辰集团核心技术研究院

出　　处：《中国信息安全》2024年第6期42-44,共3页China Information Security

摘　　要：当前,大模型技术在多个领域显著提升工作效率、改变了生产模式,并创造了巨大经济价值。例如,在金融行业,大模型被用于风险评估与市场预测;在医疗行业,它则助力图像识别与疾病诊断等。然而,这些技术带来的安全风险和伦理问题也备受关注。开放式Web应用程序安全项目(OWASP)发布了关于大模型应用的十大安全风险,这些风险不仅包括传统的沙盒逃逸、代码执行和鉴权不当等安全风险,还涉及提示注入、对话数据泄露和数据投毒等人工智能特有的安全风险。

关 键 词：WEB应用程序 人工智能 图像识别 沙盒 医疗行业 疾病诊断 安全风险 金融行业 

分 类 号：TP309[自动化与计算机技术—计算机系统结构] TP18[自动化与计算机技术—计算机科学与技术]