小红书大模型推理团队联合北京大学、上海交通大学提出 HYPIC,这是首个在混合注意力大模型上实现位置无关缓存的服务系统。在 4 个生产级混合注意力模型、5 个工作负载上,HYPIC 将首 token 延迟(TTFT)平均降低 3.25 倍、同 SLO 下可持续 QPS 提升 1.66 倍,而任务 ...
它尝试把员工的经验、业务流程、判断标准和工具权限,沉淀为可持续工作的数字员工,让 AI 从“回答问题的助手”进一步升级为能够执行任务、遵循流程、接受监督并持续改进的组织生产力。 从个人助手到数字员工 过去,企业引入 AI ...
在人工智能领域,“生产级质变点”成为近期热议话题。这一概念并非凭空捏造,对于那些尝试利用Agent驱动工作流的人来说,模型能力跨越带来的显著提升感并不陌生。模型处于不同阶段,其交付水平、可靠度、性价比以及商业化能力差异巨大,从仅供娱乐的“玩具”到可靠的工作搭档,这中间的跨越至关重要。 火山引擎推出的豆包大模型2.1 ...
这项由奥地利KR Labs与维也纳工业大学联合开展的研究,以预印本形式发布于2026年7月1日,论文编号为arXiv:2607.01293,感兴趣的读者可通过该编号在arXiv平台检索完整论文。 **研究背景:一场关于"看得见"与"看不见"的博弈** ...