时至今日,全球大模型格局已成定数,还有必要耗费巨资从零开始训练一个新模型吗? 由 OpenAI 前 CTO Mira Murati 、华人研究员翁荔(前 OpenAI 应用研究 VP)联合创立的 Thinking Machines ...
agent 就是你写的那段程序,trainer 就是一个 actor,reward 是你在 Env 或 ChatAgent 里随手写的任意 Python。剩下的活儿三个大件全包了。README 里反复强调一个数字:大约 8600 行 RL 代码(推文里说的 9K 是个约数),却能撑到 1T 级别的 MoE。 OpenRLHF 的 ...
刚刚,ThinkingMachines首发大模型:9750亿参数,完整开放权重,OpenAI前首席技术官创立的AI初创公司发布自研AI模型Inkling,本文主要介绍其架构、能力、训练等,公司还推出Inkling-Small预览版,已上线Tinker ...
未来十年,AI基础设施的竞争,不再是单一芯片的军备竞赛,而是系统级效率的全面比拼。 过去几年,GPU算力大幅增长,而网络带宽和内存容量增长却相对缓慢。算力的指数级攀升与网络、内存的线性增长之间,横亘着一道日益扩大的鸿沟——这便是AI基础设施领域著名的“通信/内存墙”。代理式AI(Agentic AI)时代的到来,让这道鸿沟变得更加复杂。 代理式AI时代:一场计算范式的根本性变革 前几年的大语言模型 ...
作者|张奚晨微信|a8072314b进入 Agent 时代,一次任务不再只是问模型一个问题,而是规划、搜索、调用工具、执行任务,再反复检查结果。每多走一步,都在继续消耗 Token。但公司的 AI 账单已经支撑不起 Token ...
做光学设计的同行都懂,好镜头是“调”出来的,也是“等”出来的。Zemax里反复改曲率和厚度,Lumerical里扫描周期单元的相位响应,一个参数组合跑下来,工作站转一整天是常态。更别提无透镜成像的重建调参、叠层成像的扫描校正,每一步都靠手动调试和 ...