聪明反被聪明误:ChatGPT错误内容生成的类型学分析  

作　　者：方师师[1,2] 唐巧盈 

机构地区：[1]上海社会科学院新闻研究所 [2]上海社会科学院互联网治理研究中心

出　　处：《新闻与写作》2023年第4期31-42,共12页News and Writing

基　　金：上海社会科学院创新工程(第二轮)“健全网络内容生态安全风险综合治理体系研究”阶段性成果。

摘　　要：大量使用实践和用户体验发现,基于ChatGPT的内容生成会出现多种错误形态,本文对此进行了类型学分析。研究发现,基于ChatGPT生成的错误内容可以从“错误事实”与“错误认知”的双重角度进行维度提取,存在事实错误、逻辑错误、推理错误、编程错误、文本输出、过度拟合、综合问题7大类别,并从“可核验性、可证明性、可体验性、可识别性”4个维度进行认知与测量。本文从系统内部性和系统外部性两个方向对ChatGPT的错误内容生成进行了解释与分析,并提出了未来可供探索的研究议程。

关 键 词：ChatGPT 内容生成 类型学 人工智能 

分 类 号：G21[文化科学—新闻学]