人工智能价值对齐的伦理挑战及其消解路径  

The Ethical Challenges of Artificial Intelligence Value Alignment and Their Mitigation Paths

作　　者：袁旭亮 Yuan Xuliang

机构地区：[1]大连理工大学大数据与人工智能伦理法律与社会研究中心 [2]大连理工大学哲学系 [3]南开大学

出　　处：《伦理学研究》2024年第6期89-96,共8页Studies in Ethics

基　　金：国家社会科学基金重大项目“大数据环境下信息价值开发的伦理约束机制研究”(17ZDA023)的阶段性成果。

摘　　要：人工智能自主性的增强使其具有了“主动”制造伦理问题的能力,这进一步凸显了确保高度自主的人工智能的价值观与人类的价值观保持一致的必要性,即实现人工智能与人类的价值对齐。当前基于机器学习的人工智能价值对齐研究与实践有蓬勃发展之势,但是这一对齐路径将会面临由规范伦理学中的“是”到“应该”的逻辑推导鸿沟导致的人工智能不能从数据信息中提取出价值规范的道德价值提取挑战,以及行为伦理学中的“有限伦理”理论所揭示的人工智能学习的数据信息可能具有内在道德缺陷的道德价值来源合道德性挑战。这两大伦理挑战揭示了基于机器学习的人工智能价值对齐路径所具有的深刻伦理缺陷,故而若想真正实现人工智能价值对齐,必须探究如何消解上述两大伦理挑战。

关 键 词：人工智能价值对齐 机器学习 “是”到“应该”的逻辑推导鸿沟 有限伦理 

分 类 号：TP18[自动化与计算机技术—控制理论与控制工程] B82-057[自动化与计算机技术—控制科学与工程]