第八章 · 生成式人工智能
主页
/
第一节课
/
1.35
Slide 1.35
什么是蒸馏？——模型界的师徒传承
📚 蒸馏 = 小模型向大模型「拜师学艺」
技术定义：
从大型模型中提取知识，训练更轻量的模型
核心步骤：
教师模型输出「软」概率 → 学生模型学习推理逻辑 → 得到更小更快的模型
类比：
不是直接给答案，而是观察老师解题思路，形成自己的解题能力
关键认知：
蒸馏是
全球通用的中立技术
，所有 AI 公司都在用——包括指控别人的那些公司。
蒸馏不是原罪——
违反合同才是争议焦点
。
◀
小组判断：开源还是闭
1.35 / 51
为什么蒸馏会引发法律
▶
键盘
←
→
或鼠标滚轮翻页
第八章 · 生成式人工智能