格格党

手机浏览器扫描二维码访问

第329章 课 解码deepseek v4 1m上下文背后ai工程的大道至简（第2页）

第二，kv缓存系统化管理。

之前的缓存就是简单存数据，v4把它变成有生命周期、可复用的存储系统，尤其是磁盘级kv缓存，能复用重复的前缀内容。

就像我们学习，学过的知识不用每次重新学，直接调取记忆，避免重复算力浪费，对应心理学里的“记忆复用规律”

，减少无效重复劳动，效率自然提升。

第三，推理预算分三档：non-thk快速模式、thkhigh分析模式、thkax深度推理。

不同任务用不同算力，简单文案用快速模式，复杂推理用深度模式，不盲目浪费算力。

这就像生活中做事，小事不纠结，大事深思考，对应易经“简易、变易、不易”

——核心需求不变，应对方式随事而变，用最简单的方式解决问题。

小主，这个章节后面还有哦，，后面更精彩！

许黑：我听懂了，就是把每一分算力都用在刀刃上，不做无用功。

那文章里还提到它的训练方式变了，从混合强化学习改成先养领域专家再融合，这又是为什么？和我们人的学习有相似之处吗？和蔼教授：这个问题非常关键，刚好能结合心理学学习理论和整体与部分的哲学原理来讲。

首先，v4的后训练逻辑是：先单独训练数学、代码、ant、指令遵循四个领域专家模型，把每个领域的能力打磨到极致，再通过策略蒸馏，把这些专家能力融合成一个统一模型。

这和人的成长学习逻辑完全一致：心理学上，专项学习比泛化学习效率更高，就像我们上学，先学语文、数学、物理等单科知识，把每科学透，再融会贯通，而不是一开始就笼统地学所有内容，最后样样通、样样松。

从哲学上看，这是“先深耕局部，再整合整体”

，整体的强大，源于每个局部的极致专业。

之前的混合强化学习，是泛化式训练，各个领域能力同步推进，很难做到专精；而先专家后融合，让每个细分领域都有极致突破，再整合到一个模型里，最终整体能力实现质的飞跃。

v4-pro在、c-eval等专业评测中分数大幅提升，就是这种训练方式的成果，也印证了“术业有专攻，融合则更强”

的道理。

而且它用了uon优化器、fp4fp8混合精度，还有hc残差连接，保障深层模型训练的稳定性，避免模型层数变多、参数变大后出现性能崩溃。

这就像盖高楼，先把每一层的地基打牢，再往上搭建，既追求高度，又保证稳固，依旧是易经阴阳平衡、稳中求进的思想。

蒋尘：教授，v4还分了pro和fsh两个版本，参数和能力都不一样，为什么要做双产品线？直接做一个最强的版本不好吗？和蔼教授：这恰恰是deepseek最务实的地方，贴合哲学“因材施教、因地制宜”

和市场需求的底层逻辑，也符合心理学上的“需求分层理论”

。

首先，没有任何一款模型能适配所有场景，不同用户、不同任务，需求天差地别。

就像我们不能要求所有人都穿同一件衣服，大模型应用也需要分层：-deepseekv4pro：16t总参、49b激活，主打专业、复杂、高价值任务，比如长文档分析、代码ant、高难度推理、专业白领工作，适合对能力要求极高的场景，对应“高精尖”

需求；-deepseekv4fsh：284b总参、13b激活，主打低成本、低延迟、高频次任务，比如日常问答、简单文案、批量处理，适合轻量化、普惠化场景。

从易经角度看，这是“一阴一阳”

，pro是阳，主打能力突破；fsh是阴，主打成本普惠，二者互补，覆盖全场景需求。

如果只做最强的pro版本，成本过高，普通用户和中小企业用不起，技术就失去了普及价值；只做fsh，又满足不了专业需求，双产品线就是兼顾高端与普惠，让技术真正落地，而不是停留在实验室里。

而且在实际应用中，企业可以做任务路由，简单任务用fsh，复杂任务用pro，合理分配资源，这也是系统最优解，避免资源浪费，回归技术服务于需求的本质。

周游：我注意到，v4在中文白领任务上对标cude，长文生成更有优势，但复杂指令跟随还是稍弱，还有deant也存在小错误，这是不是说明它还不够完美？该怎么看待这种技术不足？和蔼教授：这个问题，我们要用辩证哲学“金无足赤，人无完人”

和《易经》“阴阳相生、瑕不掩瑜”