【infra之路】LLM如何利用完整序列进行训练
一条序列 大量训练样本假设你有一条长度为 6 的序列[我, 喜欢, 学习, AI, Infra, 技术]训练时模型并不是只在最后算一次 loss。而是序列中的每个位置都同时作为一个训练样本。具体来说这条序列被同时拆成了 5 个输入→目标对位置1: 输入 [我] → 预测 喜欢 位置2: 输入 [我, 喜欢] → 预测 学习 位置3: 输入 [我, 喜欢, 学习] → 预测 AI 位置4: 输入 [我, 喜欢, 学习, AI] → 预测 Infra 位置5: 输入 [我, 喜欢, 学习, AI, Infra] → 预测 技术也就是说一条长度为 N 的序列一次性提供了 N-1 个训练样本。这比只拿最后一个 token 当目标高效了 N-1 倍。关键机制Causal Mask因果遮罩你可能会问模型一次前向传播怎么处理这些不同长度的输入答案是——输入始终是完整序列但通过 attention mask 让每个位置只能看到它前面的 token。Self-Attention 的计算是Attention(Q, K, V) softmax(QK^T / √d) · V。在这个矩阵乘法中QK^T会产生一个[seq_len, seq_len]的 score 矩阵。Causal Mask 就是把上三角部分设为-∞Score 矩阵6×6: 我 喜欢 学习 AI Infra 技术 我 [ ✓ -∞ -∞ -∞ -∞ -∞ ] ← 位置1只能看到自己 喜欢 [ ✓ ✓ -∞ -∞ -∞ -∞ ] ← 位置2看到1,2 学习 [ ✓ ✓ ✓ -∞ -∞ -∞ ] ← 位置3看到1,2,3 AI [ ✓ ✓ ✓ ✓ -∞ -∞ ] Infra [ ✓ ✓ ✓ ✓ ✓ -∞ ] 技术 [ ✓ ✓ ✓ ✓ ✓ ✓ ]softmax 之后-∞变成 0所以位置 i 的注意力权重只分配给位置 1 到 i。这就保证了不能偷看未来。前向传播一次得到所有位置的预测经过 Transformer 各层后每个位置都会输出一个隐藏向量。最后通过 LM Head线性层 Softmax得到每个位置的下一个 token 概率位置1的隐藏状态 → softmax → P(next喜欢 | 我) 位置2的隐藏状态 → softmax → P(next学习 | 我,喜欢) 位置3的隐藏状态 → softmax → P(nextAI | 我,喜欢,学习) ...这些概率全是在一次前向传播中同时算出来的。这就是 GPU 并行计算的优势——整条序列的矩阵运算一次完成。Loss 也是所有位置同时算得到所有位置的预测概率后loss 计算就是拿每个位置的预测和下一个真实 token 做交叉熵然后求平均L -1/(N-1) · Σᵢ log P(token_{i1} | token_{1..i}) -1/5 · [log P(喜欢|我) log P(学习|我,喜欢) log P(AI|我,喜欢,学习) log P(Infra|我,喜欢,学习,AI) log P(技术|我,喜欢,学习,AI,Infra)]这个标量 loss 反向传播时梯度会从每个位置流回去更新模型参数让所有位置的预测都变得更准。代码层面其实很简单PyTorch 里核心代码就几行# input_ids: [batch_size, seq_len]比如 [8, 2048]input_idsbatch[input_ids]# 输入是前 N-1 个 token标签是后 N-1 个 tokeninputsinput_ids[:,:-1]# [8, 2047]labelsinput_ids[:,1:]# [8, 2047]# 一次前向得到每个位置的 logitslogitsmodel(inputs)# [8, 2047, vocab_size]# 展平后算交叉熵lossF.cross_entropy(logits.view(-1,vocab_size),# [8*2047, vocab_size]labels.view(-1)# [8*2047])注意model(inputs)内部会自动应用 causal mask。最终loss.backward()一次反向传播就更新了参数。和推理的本质区别训练时因为所有位置的正确答案都已知就是序列本身所以可以一次前向传播算出所有位置的 loss一次反向传播更新参数。效率极高。推理时你不知道下一个 token 是什么所以只能逐个生成先根据输入生成第 1 个 token再把它拼回去生成第 2 个以此类推。这就是 Decode 阶段效率低的原因——每个 token 都要单独做一次前向传播虽然 batch 内的请求可以并行。所以训练是已知答案一次批改整张卷子推理是不知道答案一道题一道题地做。
相关新闻
2026/6/30 13:19:19
终极指南：5步掌握PulseView开源逻辑分析仪工具
终极指南：5步掌握PulseView开源逻辑分析仪工具 【免费下载链接】pulseview Read-only mirror of the official repo at git://sigrok.org/pulseview. Pull requests welcome. Please file bugreports at sigrok.org/bugzilla. 项目地址: https://gitcode.com/gh_m…
阅读更多
2026/6/30 13:19:19
计算机毕业设计之基于数据分析的智慧校园视频学习平台
随着信息技术的飞速发展，智慧校园建设已成为教育现代化的重要趋势。为满足学生个性化学习需求，提升教学效率与质量，智慧校园通过集成大数据、人工智能等技术，构建了视频学习平台。基于数据分析的智慧校园视频学习平台采用Java语言…
阅读更多
2026/6/30 13:14:19
终极按键映射工具QKeyMapper：免费开源、无需重启，让游戏手柄玩转所有PC游戏！
终极按键映射工具QKeyMapper：免费开源、无需重启，让游戏手柄玩转所有PC游戏！ 【免费下载链接】QKeyMapper [按键映射工具] QKeyMapper，Qt开发Win10&Win11可用，不修改注册表、不需重新启动系统，可立即生…
阅读更多
2026/6/30 14:34:27
SqlServer创建数据库账号，连接报“无法打开登录所请求的数据库 xxx。登录失败。ClientConnectionId:xxxx“
问题描述 近期有个源库切换了地址，数据平台准备迁移的时候DBA哥们又休假了，运维人又不熟，百度了新增账号给新了增SQL Server数据库账号，尝试连接时，出现错误提示，但死活联不通，报错如下&#x…
阅读更多
2026/6/30 14:34:27
BLE蓝牙连接中断故障排查指南
1. BLE蓝牙连接中断的常见场景 当你正在调试一款智能手环，或者给客户演示智能门锁时，突然遇到蓝牙连接断开，那种感觉就像正在通话时手机突然没信号。BLE蓝牙连接中断可能发生在多种场景中： 智能家居设备：智能灯泡在配…
阅读更多
2026/6/30 14:34:27
VL822 USB3.1 Gen2 HUB芯片选型与Type-C扩展坞设计实战
1. VL822芯片概述与选型要点 VL822作为USB3.1 Gen2标准的HUB控制器芯片，支持10Gbps高速数据传输，是目前Type-C扩展坞设计的核心元件之一。这颗芯片最大的特点在于提供了三种不同封装的版本：QFN88、QFN76和QFN56，每种封装对应不同的…
阅读更多
2026/6/30 14:34:27
软件视角下的三相PWM整流器核心环路设计与实现
1. 三相PWM整流器基础概念 第一次接触三相PWM整流器时，我完全被各种专业术语搞晕了。经过几个项目的实战，我发现这东西其实没那么神秘。简单来说，它就是个能双向流动能量的"智能插座"——既能从电网取电（整流ÿ…
阅读更多
2026/6/30 14:34:26
Scons实战指南：从零构建跨平台C/C++项目
1. 为什么选择Scons构建C/C项目 第一次接触Scons是在一个跨平台的开源项目里。当时项目需要在Windows、Linux和macOS上编译，维护三套不同的Makefile简直是一场噩梦。直到团队里一位资深工程师扔下一句"试试Scons吧"，我才发现原来构建工具可以…
阅读更多
2026/6/30 14:29:26
深度解析：Vite如何重新定义Chrome扩展开发体验
深度解析：Vite如何重新定义Chrome扩展开发体验 【免费下载链接】vite-chrome-extension 又快又爽的开发 Chrome 扩展程序 项目地址: https://gitcode.com/gh_mirrors/vi/vite-chrome-extension 打破传统构建困局，现代前端技术栈如何赋能浏览器插件…
阅读更多
2026/6/29 9:10:41
AI Coding 六个月真实ROI账本：产品经理的血泪教训，研发的冷静忠告
6个月前的2025年12月，Boris Cherny 公开宣布自己卸载了 IDE。一时间，Vibe Coding 成了全行业最热的话题。6个月后，当我们回过头来拉一份真实账本，发现事情远没有"一句话生成一个App"那么浪漫。本文从产品经理和研发两个…
阅读更多
2026/6/30 12:34:37
审计来了，数据权限全开——审计走了，怎么确保权限全部关掉？
引言：审计结束三个月了，审计员的权限还没关某城商行每年按照监管要求开展至少一次数据安全审计。审计期间，内审部门需要抽样检查各类业务数据——交易流水、客户信息、员工操作日志、权限配置记录。这些数据分布在不同系统中，审计…
阅读更多
2026/6/30 0:02:27
ChatGPT到底该选哪个版本？Plus够用还是Team更划算？资深架构师用18项硬指标告诉你真相
更多请点击： https://codechina.net 第一章：ChatGPT套餐选型的终极认知误区 许多技术决策者将 ChatGPT 套餐选型简化为“预算 vs. 用量”的线性权衡，却忽视了底层能力断层、上下文行为差异与 API 兼容性陷阱。这种思维定式导致大量团队在迁移…
阅读更多
2026/6/30 0:02:27
ChatGPT Plus取消订阅全流程实录（含截图级避坑手册）：从网页端/APP/iOS订阅管理入口→确认弹窗陷阱→Apple/Google Billing二次验证→到账时间追踪
更多请点击： https://kaifayun.com 第一章：ChatGPT Plus取消订阅的底层逻辑与风险全景图 ChatGPT Plus 的订阅机制并非简单的“开关式”服务绑定，而是深度耦合于 OpenAI 的账户生命周期管理、支付网关策略与 API 访问权限分级体系。取消订阅…
阅读更多
2026/6/30 0:02:27
NS-USBLoader：Switch玩家的终极游戏管理神器，3步搞定所有操作难题
NS-USBLoader：Switch玩家的终极游戏管理神器，3步搞定所有操作难题 【免费下载链接】ns-usbloader Awoo Installer and GoldLeaf uploader of the NSPs (and other files), RCM payload injector, application for split/merge files. 项目地址: https:…
阅读更多