⚖️ 训练数据中的隐藏偏见
大模型从互联网文本中学习——而这些文本本身就嵌入了种族、性别、阶层等系统性偏见。
警示案例 美国 COMPAS 量刑辅助系统争议
COMPAS 系统用于预测罪犯累犯风险，调查发现：
该系统对非裔美国人产生了系统性不公——
高估其再犯风险（假阳性率高），低估白人再犯风险（假阴性率高）。
法律原则底线：无论技术如何发展，以下原则不可撼动——
- 程序正义——当事人有权知晓并质疑影响自身权益的算法决策
- 透明性——算法决策的依据和逻辑应当可被审查
- 可解释性——受算法影响的人有权获得可理解的解释
第八章 · 生成式人工智能