去年，一家公司想用大模型分析自己长达50万字的内部技术文档库。他们尝试了当时最先进的模型，结果光是加载文档就几乎耗尽了8张顶级显卡的显存，单次查询的成本高达数百元。最终，这个项目因为“算不起”而被搁置。

这个场景，就是过去所有大模型面对长文本时的真实困境。问题的根源在于一个叫 Transformer 的核心机制。你可以把它想象成一个拥有“完美记忆”但“阅读方式”极其笨拙的学者。

传统的方式是：每读一个新字（token），它都要回头把前面读过的每一个字都重新审视、计算一遍关联度。处理1千字，它要做大约100万次计算；处理100万字，计算量不是简单地增加1000倍，而是暴增到1万亿次——这是平方级的爆炸增长。

随之而来的，是存储这些中间记忆（KV缓存）所需的显存也同步爆炸，远超任何商用GPU的极限。

所以，当DeepSeek V4宣布能以仅有上一代10%的显存和27%的计算量，流畅处理百万字长文时，整个行业都在问：它到底动了什么手术？

答案不是某个单一的“黑科技”，而是一套组合拳，核心思路就一句话：让模型学会“有层次地记忆”，而不是“全文背诵”。

第一把手术刀：混合注意力，模拟人脑的阅读方式

DeepSeek V4放弃了让模型“死记硬背”全文，转而设计了两套分工明确的记忆系统：CSA（压缩稀疏注意力） 和 HCA（重度压缩注意力），并让它们在模型的不同层级交替工作。

CSA：精读关键摘要的“侦探”

你可以把CSA理解为一个高效的秘书。它不会记下老板说的每一句话，而是每连续4句话，就整理成1条核心摘要。当老板需要查询某个信息时，秘书不会翻出所有原始记录，而是用一个轻量级的“闪电索引器”快速扫描这些摘要，只挑出最相关的几条（比如1024条），再把对应的原始细节呈上。

效果：这相当于把需要处理的“书本”厚度直接压缩到1/4，并且只精读其中最相关的几页，避免了海量无效计算。

HCA：略读全局大纲的“指挥官”

而HCA的角色，更像是一位战略指挥官。它进行更极致的压缩，每128句话，才融合成1个“章节大意”。它不关心具体的措辞，只把握整体的叙事逻辑、人物关系或代码结构。这确保了模型即使面对一部百万字的小说，也不会因为沉迷于某一章的细节而忘记整本书的伏笔。

两者如何协作？ 在模型的底层，CSA居多，负责捕捉细腻的语法和局部逻辑；在高层，HCA为主，负责整合全局语义。同时，每一层都额外保留最近128个字的原始记忆，确保正在阅读的句子上下文连贯，不被压缩破坏。

这套组合拳下来，模型记忆的内容从“全文”变成了“摘要 大纲 最新段落”，显存占用自然骤降。

第二把手术刀：混合精度存储，像一个精打细算的管家

光改变记忆内容还不够，V4还对记忆的存储格式进行了“精打细算”的优化，即混合精度存储。

模型的不同部分，对数据精度的敏感度不同。V4像一位管家，对此做了差异化处理：

对位置信息（RoPE维度）格外看重，用较高的BF16精度存储，确保“这个词在文档开头还是结尾”的信息绝对准确。对一般的语义信息，则用FP8精度存储，直接让这部分缓存体积减半。对于模型中稀疏激活的专家模块（MoE）权重，更是用上了极致的FP4精度，存储需求相比FP8再降50%。

这不仅仅是压缩，更关键的是通过量化感知训练，让模型在训练时就适应了低精度格式，从而在推理时几乎不掉精度。实测显示，这套操作下，MMLU知识问答准确率损失小于1%，GSM8K数学推理精度甚至提升了2%。

手术结果：从“算力黑洞”到“经济标配”

这几套外科手术式的改造，带来的结果是数量级的效率提升。

根据官方技术报告，在处理100万token（约70万汉字）的极端场景下：

DeepSeek-V4-Pro 的推理计算量（FLOPs）降至上一代V3.2的 27%，关键显存（KV缓存）占用仅为 10%。更轻量的 V4-Flash 版本，这两项数字更是达到了惊人的 10% 和 7%。

这意味着什么？意味着原本需要10张顶级显卡才能勉强尝试的事情，现在可能只需要1张。成本的坍塌直接反映在价格上，V4的API调用费用大幅下降，百万token的输入成本可低至0.25元。

更重要的是精度守住了。在如此激进的压缩下，模型在长文本理解、信息抽取、逻辑推理等核心任务上表现稳定，KV信息召回率（KV recall）高达99.7%。它证明了“压缩必损精度”并非铁律，通过智能的、学习型的筛选，完全可以鱼与熊掌兼得。

所以，DeepSeek V4显存大降90%的秘密，不在于发现了某种神奇的压缩算法，而在于它从设计理念上重构了模型处理长文本的方式——从要求机器“博闻强记”，转变为让它学会“抓大放小、分级记忆”。

这套方法，不仅让百万字上下文从技术炫技变成了经济上可负担的标配，也为整个行业突破算力与内存的围墙，打开了一扇新的大门。