DiffusionGemma 的发布在 AI 研究圈子里引发了相当多的讨论,原因在于它触及了 LLM 文本生成方式的根本性问题。 标准 Gemma 4 系列依赖自回归解码(autoregressive decoding),从前到后逐个预测 Token。DiffusionGemma 则是离散文本扩散(discrete text diffusion)的实验性模型 ...
即便是目前最强大的大语言模型,在处理任务时依然像在键盘上逐字输入一样,按照从左到右的顺序依次处理内容。然而在本地单用户场景中,这种顺序处理方式往往导致图形处理器(GPU)和张量处理器(TPU)无法得到充分利用。 谷歌押注DiffusionGemma能够突破这 ...