图书馆AI语言生成中的信息幻觉:信息素养视角下的风险规避策略  

Information Hallucinations in Library AI Language Generation:Risk Avoidance Strategies under an Information Literacy Perspective

作　　者：裴宏娇 郭瑞宇 杨志和[1] PEI Hongjiao;GUO Ruiyu;YANG Zhihe

机构地区：[1]黑龙江大学信息管理学院,黑龙江哈尔滨150080

出　　处：《图书情报导刊》2024年第12期36-43,53,共9页Journal of Library and Information Science

基　　金：教育部2023年人文社会科学研究规划项目“智慧图书馆空间中的多源信息融合实现研究”(项目编号:23YJC870009);黑龙江2020年省属本科高校基本科研业务费科研项目“面向智慧组织构建及服务的多源信息融合理论与方法研究”(项目编号:2020-KYYWF-0962)。

摘　　要：人工智能(AI)的应用与发展为图书馆事业带来巨大的发展机遇和挑战。生成式人工智能在提升人类知识与能力水平的同时,也会生成不准确以及错误信息进而影响用户的决策行为。探讨了图书馆服务中AI生成语言背景下的“信息幻觉”现象,分析了生成式人工智能“信息幻觉”的成因及风险,从信息素养角度提出4个方面的策略,以期规避和化解“信息幻觉”中可能遇到的风险,增强用户在AI辅助信息环境中导航时的批判性思维能力。The application and development of artificial intelligence(AI)bring great opportunities and challenges to the library.While improving the level of human knowledge and ability,generative AI will also generate inaccurate and wrong information,which will affect the user’s decision-making behavior.This paper discusses the phenomenon of“infor‐mation hallucination”in the context of AI-generated language in library services,analyzes the causes and risks of“infor‐mation hallucination”in generative AI,and puts forward four strategies from the perspective of information literacy,in or‐der to avoid and resolve the risks that may be encountered in“information hallucination”and enhance users’critical thinking ability when navigating in AI-assisted information environment.

关 键 词：人工智能幻觉 生成式人工智能 信息素养 图书馆 风险规避 

分 类 号：G254.97[文化科学—图书馆学]