跳到正文
掘金· 嘎嘎风·· 6 小时前AI 评分22

MiniMind 学习笔记之 07:模型怎么学会猜词(旋钮是怎么被拧动的)

MiniMind 学习笔记之 07 模型怎么学会猜词(旋钮是怎么被拧动的)

AI 导读

MiniMind 训练笔记第 07 篇拆解了 6400 万参数模型从随机初始化到学会猜词的全过程:前向传播后经交叉熵损失打分,再由 PyTorch autograd 反向传播算出每个参数的梯度。

来源:掘金 · juejin.cn