一篇技术分享围绕“面向智能体(Agentic)推理的下一代大模型推理引擎”展开,讨论多轮工具调用、长上下文与高并发场景下,推理引擎在调度、缓存和显存管理上需要做哪些改变。
11月2日至5日,2026年世界互联网大会乌镇峰会在浙江乌镇举行,本届峰会的主题为“开源开放 共建共享——携手构建网络空间命运共同体”。蚂蚁集团旗下具身智能公司蚂蚁灵波,携全栈开源的机器人通用大脑亮相乌镇,展示模型研发、
蚂蚁灵波与隆盛唯睿、德马科技、德迩象网等达成合作,以自研LingBot-VLA 2.0具身模型切入工业上下料与物流分拣场景,推动“一脑多机”规模化落地。
文章探讨单机柜能承载多少 AI Agent,指出瓶颈不在 GPU 算力,而在内存带宽、网络与调度等系统环节,为算力规划提供新视角。