生成式AI算法训练风险的合规管理研究  

Research on Compliance Management of Risk in Generative AI Algorithm Training

作　　者：罗世杰 贺国荣[2] LUO Shi-jie;HE Guo-rong

机构地区：[1]西南政法大学经济法学院,重庆401120 [2]四川农业大学公共管理学院,成都611130

出　　处：《湖北经济学院学报》2023年第6期106-115,共10页Journal of Hubei University of Economics

基　　金：重庆市研究生科研创新项目(CYS23292);西南政法大学经济法学院学生科研创新项目(2022-XZJF-016)。

摘　　要：生成式AI算法训练活动容易引发数据违法或质量低劣、算法偏差(错误)、偏见与歧视以及触碰反垄断红线等诸多风险,对社会与经济产生显著负外部性。而当前的风险治理机制面临防范不足、规制滞后、治理失范等困境,故而应考虑将生成式AI算法训练风险引入合规管理。生成式AI算法训练风险的依法治理和包容治理证成了对其进行合规管理的正当性和可行性。具体到生成式AI算法训练风险合规管理的实践路径:首先对其法律制度体系进行梳理,据此提炼和总结出生成式AI企业具有算法训练合规管理的法定义务,并且明晰对其全方面的法律监管要求。然后生成式AI企业应据此实施算法训练合规管理,主要包括实施原则的确定和实施方案的具体构建。前者包含生成式AI算法训练计划、过程以及结果的全流程合规,后者包括构建算法训练合规管理基础性平台和对算法训练全流程合规风险的处理。同时,为保障生成式AI企业依法实施算法训练合规管理,需优化企业对外面向的行政监管与激励机制。

关 键 词：生成式AI 算法训练风险 风险治理 合规管理 算法合规 

分 类 号：TP18[自动化与计算机技术—控制理论与控制工程] D922.1[自动化与计算机技术—控制科学与工程]