「低延迟」共找到 1125 篇相关文章
告别微调！斯坦福提出Agentic上下文工程
当前微调大语言模型成本高、不灵活，‘上下文适应’方法有短板。斯坦福大学等提出ACE框架，将上下文变为动态‘战术手册’，解决现有问题。论文通过实验验证其在性能、成本和效率上优势，为大模型发展指明新方向。
国产大模型新SOTA：蚂蚁万亿级旗舰模型赶超GPT-5
蚂蚁集团开源万亿参数旗舰大模型Ling-1T，属Ling 2.0家族。它激活比例低降低运算成本，训练有“Ling缩放定律”等方法，多项测试超主流模型，不过处理超长上下文成本较高。
LLM协作告别文本形式：直接“脑对脑”，Cache-to-Cache实现语义瞬时传输
现有多LLM系统依赖文本通信，效率低且易失真。论文提出Cache - to - Cache（C2C）范式，让LLMs通过KV - Cache“脑对脑”交流，实现高效精准语义传输，在多类任务中提升性能与效率。
超越免训练剪枝：LightVLA引入可微分token剪枝，首次实现VLA模型性能和效率的双重突破
文章介绍LightVLA框架，它是用于提升VLA推理效率和性能的视觉token剪枝框架。针对VLA模型计算开销大、推理延迟高问题，提出两大创新，在LIBERO实验中性能超经典模型，还实现推理加速。
Meta和Scale AI闹翻！砸143亿买的高管跑路，业务也合作不下去
两个多月前，Meta豪掷143亿美元收购Scale AI 49%股份，如今双方在团队融合、业务合作方面产生纠葛。原Scale AI高管离职，Meta研究人员抱怨其数据质量低。双方后续发展不尽如人意。
从需求到研发全自动：如何基于Multi-Agent架构打造AI前端工程师
本文介绍蚂蚁消金前端团队打造的Multi - Agent智能体平台“天工万象”。阐述其技术实践，对比多Agent与统一型Agent、ReAct范式与固定工作流优劣，还介绍专业智能体建设，分享开发中的思考与经验。
ICCV 2025 | ECD：高质量合成图表数据集，提升开源MLLM图表理解能力
科研等领域图表是信息核心载体，先进开源MLLMs在高难度图表理解测试准确率低。本文提出ECD数据集，规模大、质量高、风格多样，还设计合成流水线与评测基准ECDBench，为开源MLLM提供支持。
根治『降智』反骨仔，ChatGPT-5几条实用窍门
ChatGPT-5发布后口碑崩溃，“降智”行为不断，如发布会图表错误、算术题答错、智商测试得分低。不过作者找到增智方法，像修改提示词、让其建立行动规划等，还介绍恢复旧模型及OpenAI后续计划。
千亿市值巨头，超百亿押注算力产业链
东山精密在今年6月收购光模块企业索尔思光电后股价暴涨、市值破千亿，近日又宣布子公司投资不超10亿美元建高端PCB项目。两项投资额超百亿，但索尔思光电有研发迟缓、毛利率低等问题，东山精密高端PCB技术也不足。
实测爆火的阶跃星辰Step 3，性能SOTA，开源多模态推理之王
在 WAIC 2025 前一天，阶跃星辰推出新一代基座模型 Step 3，它是开源 VLM 新晋之王，性能超同类别开源模型，与顶尖闭源 VLM 也有一战之力。该模型具备多开好省特点，还展示了宏大技术生态与商业化布局。