AI 推荐的频道不存在、合同条款是编的?3 个真实翻车案例和防坑办法

AI 一本正经地胡编,有个专门的名字叫"幻觉"。我们在论坛里翻到几个很典型的真实例子:
- 推荐不存在的频道:有人让 ChatGPT 推荐几个 YouTube 频道,事先还约定了"信息要可靠",结果好几个频道的名字、介绍、链接全是编的。(V2EX)
- 编出合同里没有的条款:今年 6 月,有人测试法律 AI 审一份保密协议,AI 说第 5 条是不可抗力条款,可原文根本没有这一条;它还引用了一条对不上的法条。(V2EX)
- 编出假的网址和文章标题:OpenAI 官方论坛里,有用户反映 AI 在联网模式下照样会给出假链接、假标题,哪怕已经要求它核实。
为什么会这样
AI 不是在"查资料库",而是在猜下一句话最可能是什么。越冷门、越具体的东西(人名、书名、法条编号、网址、金额),越容易猜错,而且猜错时语气照样很肯定。
3 个让它少编的办法
- 把材料给它。要它分析合同,就把合同原文贴进去,并要求"每个结论都标出在原文第几条"。
- 允许它说不知道。提问时加一句:不确定的地方直接写"不确定",不要猜。
- 要出处就用会联网的工具,比如 Perplexity,然后把来源点开看一眼。
哪些内容一定要自己核对
数字、日期、金额、人名书名、链接、法律和医疗信息。尤其是要发给别人、要签字、要花钱的东西。
完整的核对清单:AI 一本正经地胡编怎么办
参考的真实讨论:V2EX:如何让 ChatGPT 的回答来自可靠的信息,而不是胡编乱造?(2023-03-07)、V2EX:法律 AI 幻觉:你遇到过 AI 编造合同条款吗?(2026-06-16)、V2EX:有没有发现,AI 的幻觉太严重了(2026-08-04)、OpenAI 社区:Hallucinated URLs + Fake Article Titles in Web Mode(2025-05-07)。核对日期:2026-11-12。
评论
发表评论