大语言模型的工作原理可以类比打字机,从左到右一个词一个词生成文本。6月10日,Google 发布实验性开源模型 DiffusionGemma,尝试用“扩散”方式生成文字:它先生成一整块随机占位文本,再像图像扩散模型修图一样,反复修改、填充和润色。这样每次前向计算可 ...
即便是当今最强大的大语言模型,在处理任务时依然像在键盘上逐字输入一样,按照从左到右的顺序依次生成内容。然而在本地单用户运行场景中,这种顺序处理方式往往会导致 GPU 和 TPU 资源大量闲置。 对此,谷歌推出了 DiffusionGemma,希望借此突破这一瓶颈。
DiffusionGemma 的发布在 AI 研究圈子里引发了相当多的讨论,原因在于它触及了 LLM 文本生成方式的根本性问题。 标准 Gemma 4 系列依赖自回归解码(autoregressive decoding),从前到后逐个预测 Token。DiffusionGemma 则是离散文本扩散(discrete text diffusion)的实验性模型 ...
即便是目前最强大的大语言模型,在处理任务时依然像在键盘上逐字输入一样,按照从左到右的顺序依次处理内容。然而在本地单用户场景中,这种顺序处理方式往往导致图形处理器(GPU)和张量处理器(TPU)无法得到充分利用。 谷歌押注DiffusionGemma能够突破这 ...
大厂发新模型,话术从来是「更强」。可谷歌这次的官方指南里写着:它不如自家旧款。 这一次开源DiffusionGemma,谷歌把「我不如我」写进了官方指南。 Google Gemma官方称DiffusionGemma是一个探索快速文本生成的实验性开源模型: 不再逐个token顺序处理,而是一次 ...
IT之家7 月 10 日消息,谷歌昨日(7 月 9 日)发布博文,为提升浏览器人工智能(AI)及机器学习(ML)工作负载的运行速度,推出全新的 LiteRT.js 库。 谷歌表示 LiteRT.js 采用 WebAssembly,并结合 WebGPU 与 WebNN 等硬件加速能力,用于替代 TensorFlow.js 所使用的 JavaScript ...