情绪识别技术的问题、风险与规治  

The Problems,Risks and Regulations of Emotion Recognition Technology

作　　者：阮凯 RUAN Kai(Institute of Philosophy,Shanghai Academy of Social Sciences,Shanghai,200235)

机构地区：[1]上海社会科学院哲学研究所,上海200235

出　　处：《自然辩证法通讯》2023年第2期82-90,共9页Journal of Dialectics of Nature

基　　金：上海市社科规划青年课题“经典伦理学与认知科学哲学视域下的机器伦理研究”(项目编号:2020EZX001)。

摘　　要：情绪识别技术是人工智能领域的一项新技术,既能提升人的情绪识别能力也能增强机器的智能水平,进而可能带来新的人机交互革命。情绪识别技术有其特殊的理论基础和本质特征,它们必然地引发了相应的问题和风险。该技术的主要风险是:低效易错的情绪识别设备将给人带来生理和心理上的双重伤害,恶化人机关系;高效准确的情绪识别设备可能会侵犯个人隐私,并带来社会公平正义等诸多问题;越界使用导致了不可控风险。为了尽可能减少相应风险,需要针对该技术的理论基础与本质特点进行规范和治理。一个金字塔式综合规治方案是:(1)在顶层提炼情绪识别技术的基本伦理原则。(2)在中层进行分级治理。审视科学证据是否支持情绪识别技术完成特定领域的任务,考察每一类应用普遍化的过程合理性和伦理后果,最终划定风险等级以便精细化治理。(3)在底层提出情绪评估强度概念。根据不同的风险等级,为机器定制不同的情绪评估强度。Emotion recognition technology(ERT)is a new AI technology which will bring about humancomputer interaction revolution.The main risks of ERT include inefficient and error-prone devices bringing harm to people;efficient and accurate devices invading personal privacy and causing social fairness and justice problems;out-of-bounds use bringing about uncontrollable risks.To minimize the corresponding risks,it is necessary to make comprehensive governance:(1)Refining the basic ethical principles of ERT.(2)Hierarchical governance.Examine whether the scientific evidence supports ERT to complete the tasks of specific fields,examine the process rationality and ethical consequences of the universalization of each type of application,and finally delineate the risk level for refined governance.(3)Emotional evaluation intensity.Different emotional evaluation intensities are customized for the machines according to different risk levels.

关 键 词：情感计算 情绪算法 情绪评估强度 可疑人工智能 治理策略 

分 类 号：B842.6[哲学宗教—基础心理学]