什么是 AI「幻觉」？为什么会胡说八道

AI 有时引用不存在的论文、编错日期，看起来还特别自信——这叫「幻觉」。

**幻觉** 指模型生成了**格式正确但内容错误**的文字。 它优化的是「像合理回答」，不是「事实对不对」。

- 医疗、法律、投资等场景，错一句代价很大 - 越让它「给个确切数字/出处」，有时越敢编 - 这是机制问题，不完全是「模型笨」

- 关键事实：**二次搜索**或查官方来源 - 让它「不确定就说不知道」，并列出需核实项 - Numbers、日期、人名、链接：默认不信，逐条核验

- 联网搜索能缓解，但不能 100% 消除幻觉 - 语气越肯定，不等于越可靠

1. 幻觉 = 说得像真的，其实是编的或错的。 2. 模型是文字预测机，不是事实数据库。 3. 重要信息必须人工核验。