2 倍,不是 16 倍:BF16 混合精度的真实账本,和训练到车端那道断层
先拆掉一个流传很广的数字——BF16 在消费/工作站 Ada 卡上是 FP32 的 2 倍,不是 16 倍,16 倍只属于 A100/H100 那种数据中心 die;TF32 在 Ada 上更是完全没有加速。再从 roofline 讲清这 2 倍为什么反而更实,逐条拆五类坑,最后落到真正麻烦的地方:训练用 FP32 也躲不过的那道断层——它由部署端 FP16 只有 5 位指数决定,和训练精度无关。
自动驾驶算法、工程实践与经验思考
先拆掉一个流传很广的数字——BF16 在消费/工作站 Ada 卡上是 FP32 的 2 倍,不是 16 倍,16 倍只属于 A100/H100 那种数据中心 die;TF32 在 Ada 上更是完全没有加速。再从 roofline 讲清这 2 倍为什么反而更实,逐条拆五类坑,最后落到真正麻烦的地方:训练用 FP32 也躲不过的那道断层——它由部署端 FP16 只有 5 位指数决定,和训练精度无关。
softmax(QKᵀ)V 背下来容易,但它在物理上干的是一件很古老的事——内容寻址的软检索。本文从矩阵乘法的加权求和讲起,把 QKᵀ 看成相似度表、softmax 看成权重、A·V 看成动态加权求和,再从 query 和 value 两个视角把注意力还原成一把「关联记忆」的钥匙。
导航线按 1 米一个点取 200 个点,MLP 出来 (B,200,256),在 200 维上做 max pooling——结构上跟 PointNet 压点云是一回事,顺序和「在哪」全丢了。本文用公式+代码+对比实验,说清楚 max 的问题在哪,attention pooling 怎么把顺序和距离感请回来。
同样是把元素喂给网络,逐元素 MLP 和 PointNet 的共享 MLP + 对称池化差在哪里?本文从直觉、公式、代码到车道图实战,说清两者的共性与分野,以及为什么补上“边”才是读懂拓扑的解药。
NAVSIM、nuPlan、Bench2Drive、Waymo E2E、CARLA Leaderboard——五条主流评测线分别测什么、各有什么坑、指标怎么读,附开闭环区别解析和读榜单数字的七个检查点。
DDPM 为什么慢、DDIM 怎么靠跳步把采样从一千步压到几十步,以及 DiffusionDrive 如何用「锚点截断 + 轻量 decoder」把扩散规划器搬上车、压进板端实时预算。附 DDPM/DDIM 最小公式对照,以及它和 Flow Matching、国产智驾芯片两条线的串联。
地平线、黑芝麻、华为昇腾、寒武纪、芯驰/爱芯元智、车企自研——六条路线的芯片规格、量产定点与2026格局变化。
从扩散的弯路讲到 Flow Matching 的直线:速度场、Conditional Flow Matching、Rectified Flow、reflow 去交叉,以及它和扩散模型到底什么关系。附从零实现的最小代码,以及它在图像、机器人、自动驾驶里的落地。
生成式规划器有两条省步路线——扩散靠锚点和截断,流匹配靠把噪声到轨迹的路径拉直。GoalFlow 用 goal point 一步出轨迹,GuideFlow 再把安全硬约束焊进生成过程本身。三篇论文放在一起,其实是在回答同一个问题:约束到底该在哪个环节进场。
前几篇都在说 DINOv3 该不该冻、冻了多强,这篇回答一个更基础的问题:冻结完的特征,到底以什么形态喂给规划头?答案是 Transformer 解码器式的接口——轨迹当 query、场景特征当 KV。但「直接当 KV」和「随机加噪」两个直觉,跟论文里的真实机制都有出入。
The Constant Eye 证明了 DINOv3 冻结编码器能解决视觉域偏移,但这篇要补上反面:DINOv3 逐帧独立处理,没有时间建模。晴天雪天都稳,但前车急刹、行人横穿这类运动依赖任务会掉链子。冻结 backbone 之后,运动从哪来?
端到端自动驾驶在晴天训、大雪天废——这是视觉域偏移的经典难题。The Constant Eye(2026-02)提出一个反直觉的解法:把视觉编码器锁死,不让它参与下游规划的训练。冻结 backbone 如何变成 OOD 鲁棒性的来源?
感知层用 DINOv3 冻结 backbone 接三种规划范式,数据层用 DINOv3 特征做 Sim-to-Real 桥接。两篇论文合在一起,就是 DINOv3 在一段式端到端自动驾驶里从感知到数据的完整应用图景。
从模块化流水线的结构性瓶颈出发,系统拆解端到端一段式自动驾驶落地的四个工程真问题:可解释性、长尾 OOD、奖励定义、训练稳定性,并以 SFT→RLHF→GRPO 训练范式作为解法主线,结合无保护左转场景做阶段对比。
从 Layer Norm 的基础原理,到 AdaLN 在扩散模型中的条件生成应用,再到自动驾驶里的潜力场景。本文用公式、代码和实战案例,帮你彻底理解这两种归一化技术。
从脉冲星信号去噪到自动驾驶的导航选道,Self-Attention 和 Cross-Attention 无处不在。本文用直觉+公式+代码+实战案例,帮你彻底理解这两种注意力机制的本质区别。
如果你想在手机和电脑上都用上 QClaw(腾讯版小龙虾 AI Agent),这篇图文指南 10 分钟带你从下载到发出第一条指令,无需任何技术背景。
从射电望远镜到自动驾驶,这个博客的诞生背景、技术选型与未来规划
旧博客 myinxd.github.io 时代的最后一篇,记录了一次真实的 Linux 网卡驱动排错过程。Ubuntu 自带的 r8169 与 Realtek RTL8111/8168 不兼容,需要手动安装 r8168 才能恢复稳定联网。