跳到主内容
九游网站入口

港大教授创业,雷军华为都投了:一条"非主流"技术路线,想改写大模型"逐字生成"的老办法

2026-10-14 · 九游网站入口

一家名为DiffuSpace的企业,近期完成了金额达数亿元人民币的融资,这在该领域“扩散语言模型”方向上,创下了迄今为止全球最大规模的纪录。其创始人是香港大学教授孔令鹏。参与投资的机构中,经纬中国、顺为资本、君联资本联合领投,中科创星、华为哈勃、地平线则作为跟投方——顺为资本由雷军创立,而华为哈勃是华为旗下的投资平台。

这家公司所押注的,是一条与当前所有主流大模型截然不同的技术路径。这条路径能否走通,不仅关乎这家企业的命运,更将影响整个大模型行业的未来走向。

一、一条“非主流”路径,吸引雷军与华为投资

目前,所有主流大模型——包括GPT、DeepSeek、智谱——都遵循同一种被称为“自回归”的路线。其原理相当简单:逐字向后生成。首先是第一个字,然后根据第一个字生成第二个字,如此循环往复,直到完成整个句子。

这种方法主导大模型领域已有数年,但存在一个固有的缺陷:速度慢。因为要生成一百个字,就必须执行一百步,无法跳过任何一个字。

DiffuSpace押注的是另一条名为“扩散”的路径。这一概念源自图像生成领域——Stable Diffusion正是利用扩散模型进行图像创作。扩散的思路与自回归截然不同:它不是“一个字一个字地敲”,而是“整体涂抹、并行生成”。蚂蚁集团的赵俊博曾形象地比喻:扩散模型能够“直接修改Token”,而不像自回归那样只能向后书写。

这里进一步阐述两条路线的差异。自回归模型生成一句话,如同打字员逐个敲击字符,若中途想修改前面的字,只能删除后重来。扩散模型则更像绘画,先在画布上涂上一层模糊的底色,然后通过多次“去噪”过程,使画面逐渐清晰,并且可以随时修改任意位置。这一差异决定了它们各自的适用场景:从头撰写一段新文字,自回归足够胜任;但修改一个错误、调整一段逻辑、在中间插入一句话,扩散模型则具备天然优势。

因此,扩散语言模型最大的卖点是“速度快”和“可修改”:并行生成使其更快,整体涂抹则允许它在任意位置进行创作。

孔令鹏作为港大教授,从学术界转向创业,专注的就是这条“非主流”路径。顺为资本、经纬中国、君联资本、华为哈勃、地平线等多家顶级资本,同时押注一条尚未被验证的路线,这表明它们赌的不是“扩散一定会赢”,而是“万一扩散赢了,先占据有利位置”。这与当年押注“开源还是闭源”、“Transformer还是RNN”的逻辑一致——技术路线之争,赌错了是数亿资金打水漂,赌对了则是获得下一个时代的入场券。此外,该公司还预告将于10月发布参数更大的模型,表明其不满足于“演示”,而是决心将扩散语言模型做大做强。

二、扩散的优势,正被自回归逐渐追平

然而,扩散这条路径远不如其宣传的那样顺畅。

第一个问题,是其引以为傲的“速度”打了折扣。自回归模型在推理时,采用了一种名为KV-cache的加速技术——将已经计算过的内容缓存起来,生成下一个字时无需重新计算。这里解释其重要性:自回归每计算一个新字,都需要“回顾”所有已生成的字,若不进行缓存,每生成一个字都需重新计算前面的所有内容,速度会慢到无法接受。KV-cache的作用就是存储已计算的结果,每次只计算增量部分。而扩散模型是“整体并行”的,没有这种“从前到后”的顺序,因此无法使用这一加速技术。所以,扩散模型的“并行”是以“无法缓存”为代价换来的,一进一出,优势便不再那么明显。

第二个问题更为根本。扩散模型另一个引以为傲的能力是“任意顺序生成”——可以填空、从中间开始、进行修改。然而,已有论文证明,自回归模型通过特殊训练,同样能够实现“任意顺序生成”,与扩散模型匹敌。换句话说,扩散模型的差异化卖点,正被自回归模型一点一点地追平。

还有第三层问题。有理论分析直接指出,扩散语言模型未必优于自回归模型,结果甚至可能相反。原因在于,扩散模型在图像领域取得成功,是因为图像是连续的——像素可以模糊、渐变,“逐步去噪”天然适配。但语言是离散的,一个字就是一个字,对错分明,扩散模型的“去噪”在离散空间中很难实现。这是扩散语言模型最底层的理论障碍。

因此,扩散模型目前的处境有些尴尬:优势在逐渐缩小,而障碍却始终未能消除。那么,为何仍有这么多资本押注它?答案需要从更底层去寻找。

三、“Token必须消亡”:这场战役的底层,是范式革命

要回答这个问题,需要将视角拉至最底层。

扩散语言模型真正的障碍,在于“token”这一概念本身。token是“词元”,是当前所有大模型的基本单位——无论是自回归还是扩散,都在token的层面上运作。然而,已有人提出了更激进的口号:“token必须消亡”。其含义是,token这种离散的表示方式,本身就限制了模型的能力,下一代模型应放弃离散token,转而采用连续表示。

如果这一判断成立,那么这场“扩散vs自回归”的争论,实际上只是更大变革的前奏——真正需要改变的,是token这个基础本身。而扩散模型被推到台前,是因为它在“连续表示”这条路径上,比自回归走得更近了一步。它不仅仅是一条技术路线,更像是一次范式革命的探路。

行业最顶层的人士也已开始反思。Karpathy——前OpenAI和特斯拉AI负责人,AI领域最具影响力的人物之一——在2025年11月发帖表示,人类的思维或许更偏向自回归,但潜意识里“很难说就不存在某种更像扩散的机制”,两者之间“可以插值、甚至泛化”。知名研究者Sebastian Raschka在2026年的预测中也写道:Transformer仍将主导,但扩散模型正悄然崛起。

更重要的是,这并非DiffuSpace一家的赌注。谷歌在2025年5月发布了扩散版Gemini——Gemini Diffusion,并于2026年开源了扩散模型DiffusionGemma。蚂蚁集团的赵俊博公开讨论扩散模型,团队还开源了千亿参数的扩散模型LLaDA 2.0。华为哈勃也在投资。这表明“扩散”已从“一家公司的豪赌”,转变为“巨头们的共识性试探”——大家都在试探,下一代大模型究竟应该是什么样子。当一个技术方向同时被谷歌、蚂蚁、华为等巨头用真金白银或人力布局时,它就不再是边缘的“非主流”,而是“下一个范式”的候选者之一。

而且,扩散语言模型目前最务实的路径,并非“从头训练一个扩散模型去颠覆自回归”,而是“将已有的自回归模型适配成扩散模型”——DiffuSpace自己的Dream 7B正是这么做的,它使用Qwen2.5 7B的自回归权重进行初始化,再转换为扩散范式。这意味着扩散模型目前仍离不开自回归的基础,它更像是自回归的一个“升级补丁”,而非一个“替代者”。

回到DiffuSpace。它押注的这条扩散路径,其真正价值可能不在于“取代自回归”,而在于“补上自回归做不好的那一块”——代码编辑、文档修改、Agent的自我修正。自回归只能向后书写,想修改前面内容需删除重来;扩散模型则能直接修改任意位置。这种“可修改”的能力,在代码场景中具有实际用途。

因此,这场路线之争,最终可能不是“谁取代谁”,而是“分工”:自回归负责生成,扩散负责修改。而DiffuSpace,以及其背后的经纬中国、顺为资本、君联资本、华为哈勃、地平线,赌的是这个“修改”市场是否足够大,是否值得现在就用数亿人民币去卡位。

这种“分工”的图景,在AI历史上曾出现过一次。当年图像生成领域,上一代范式是GAN,后来被扩散模型彻底取代——因为扩散模型生成的图像,质量肉眼可见地优于GAN。有人会问:语言领域是否会重演?答案可能不会那么干脆。因为GAN被取代,是扩散模型在“质量”上碾压了它;而扩散模型在语言领域,质量能否碾压自回归,至今未被证明。更可能的结果,不是“扩散取代自回归”,而是“两条路线共存、各司其职”——自回归继续负责“生成”,扩散则专注于“修改和编辑”。这比“颠覆”温和,也比“消失”实在得多。

至于“token是否会消亡”、自回归是否会被颠覆,那是更大的问题,连Karpathy等人也尚未想清楚。DiffuSpace能做的,是先站在“质疑自回归”这条战线上,在扩散语言模型这个尚未有人站稳的位置上,先占据一个席位。

更多文章