技术向善:人工智能大模型伦理风险识别及治理路径  

Technology for Good:Ethical Risk Identification of Artificial Intelligence Model and Its Governance Paths

作　　者：李子浩 李天云 Li Zihao;Li Tianyun

机构地区：[1]上海交通大学国际与公共事务学院,上海200030 [2]上海人工智能实验室,上海200232

出　　处：《学术交流》2024年第8期30-42,共13页Academic Exchange

基　　金：国家社会科学基金重大项目“全过程人民民主重大理论与实践问题研究”(22&ZD168);科技创新2030——“新一代人工智能”重大项目(2022ZD0160103)。

摘　　要：人工智能大模型与人类社会的交互提升到空前水平,推动人类社会生产生活和治理方式的转型优化,但人工智能大模型领域存在的伦理风险及其防范治理路径仍有待认知和深化探究。正确把握和理解人工智能大模型伦理风险识别及治理路径有利于为政策制定者及相关从业人员提供理论参考和决策依据。聚焦全球人工智能大模型伦理风险领域,选取人工智能大模型技术风靡以来全球范围内13个具有代表性的伦理事件进行整体性分析,可识别、归纳出人工智能大模型领域存在的虚假/错误信息风险、心理诱导风险、隐私泄露风险、歧视偏见风险和不良内容风险五类伦理风险,应加强对不同风险类型生成规律及其溢出效应的理论认知,并从技术路径、监管路径、认知教育路径和国际合作路径提出治理对策。

关 键 词：人工智能大模型 生成式人工智能 伦理风险 治理路径 技术向善 

分 类 号：G311[文化科学] D618[政治法律—政治学]