AI可从飞行安全中学到什么  

作　　者：西尔凡·杜兰顿 凡妮莎·利昂 Sylvain Duranton;Vanessa Lyon

机构地区：[1]波士顿咨询公司

出　　处：《南风窗》2025年第8期88-88,共1页South Reviews

摘　　要：在最近的一次安全测试中,一个旨在协助客户申请贷款的银行生成式AI(人工智能)聊天机器人遭到了操纵,并因此泄露了敏感金融信息。测试人员绕过了安全控制机制,提取了一份包括客户姓名在内的全面贷款审批清单。这个警示性故事强调了一个根本问题:生成式AI可以彻底改变整个行业,但也可能在缺乏完备安全操作规程的情况下引发灾难性结果。传统的安全模式已不敷使用,生成式AI这类变革性技术需要一种新的、整体性的网络安全操作方式。

关 键 词：AI 贷款审批 安全控制机制 安全测试 敏感金融信息 

分 类 号：TP18[自动化与计算机技术—控制理论与控制工程]