一篇技术分享围绕“面向智能体(Agentic)推理的下一代大模型推理引擎”展开,讨论多轮工具调用、长上下文与高并发场景下,推理引擎在调度、缓存和显存管理上需要做哪些改变。
近日,Pika 发布 MiniMax H3 衍生模型 Pika H3 Flex,并开放适配器权重与推理代码。该模型通过六步去噪联合生成画面和声音,支持文本、首尾帧和多模态参考输入,供创作者进行镜头设计、参考生成和视频编辑
针对 Qwen 系列大模型的线性注意力机制,分享高性能优化实践,涵盖算子实现与推理加速思路,对做大模型推理部署和长上下文优化的工程师有参考价值。
工信部正研究起草新一代智能制造政策,推动“AI+制造”;新央企国家数据集团成立,董事长、总经理亮相;DeepSeek宣布全面开源内部推理框架,宇树科技称人形机器人行业仍处商业化早期。
QCon上海议题聚焦大模型在手机、PC等终端上的探索与量产落地,讨论端侧部署的工程路径与商业化进展,对终端厂商和AI应用开发者有参考价值。
蚂蚁百灵开源 560B 参数大模型 Ling-3.0-flash,主打低成本复杂工作流,单次调用成本约 0.19 美元,面向智能体与多步骤任务场景。
一支由前谷歌Gemini核心成员组成的创业团队刚公开亮相,就传出被英伟达收购的消息。团队选择押注编程智能体(Coding Agent)赛道,认为代码生成与自主编程是AI落地的重要方向。
世界人工智能开源大赛(GOAI)总决赛将在杭州举行,70支入围队伍从全球参赛者中脱颖而出,围绕开源AI项目展开最终角逐。
文章探讨单机柜能承载多少 AI Agent,指出瓶颈不在 GPU 算力,而在内存带宽、网络与调度等系统环节,为算力规划提供新视角。