Logo第八章 · 生成式人工智能
主页 / 第一节课 / 1.14
Slide 1.14
AI幻觉：一本正经地胡说八道

💭 幻觉不是 bug，是 feature

  • 定义：生成看似合理但实为错误或虚构的内容
  • 机制：概率预测 + 无事实核查 = 自信编造
  • 类比：学生考试时不会也不交白卷，而是编一个看起来合理的答案
因为模型的设计目标就是生成最可能的词，而不是验证事实。
所以当答案不在训练数据里，它就会自信地编。
流程图：用户提问 → 概率预测 → ❌ 无事实核查 → 自信编造
◀
人类调教：RLHF
1.14 / 51
真实案例：Mata
▶
键盘 ← → 或鼠标滚轮翻页