现在讨论AI安全,为时尚早吗?  

IS IT TOO EARLY TO TALK ABOUT AI SECURITY?

作　　者：周文斌 刘雨琦 

机构地区：[1]不详

出　　处：《大数据时代》2023年第7期58-80,共23页Big Data Time

摘　　要：“10分钟被骗430万”“9秒钟被骗走245万”“杨幂走进小商家直播间”“互联网大佬虚拟人真假难辨”……大模型火爆了之后,比之更火爆的,是动辄百万的诈骗金额、虚假“明星脸”、真假难辨的AI生成内容、多次抵抗AI觉醒的联名上书,连续一周的热搜,让人们意识到,比发展AI更重要的,是保障AI安全。一时间,关于AI安全的讨论也开始不绝于耳,但AI安全并不是某一个行业,也并不局限于某一项技术,而是一个庞大而复杂的产业,目前,我们还没有拨云见雾。以“人”的安全为参考系,或许能够帮助我们更好地理解AI安全问题的复杂程度。首先是人的个体安全,涉及到人的身体健康和思想健康、教育、发展等等。其次是人所处的环境安全,是否存在危险,是否符合生存条件。最后是人与人所组成的社会安全,我们所构建的法律、道德都是维护社会安全的准绳。

关 键 词：虚拟人 AI 真假难辨 个体安全 互联网 生存条件 联名上书 参考系 

分 类 号：TP3[自动化与计算机技术—计算机科学与技术]