「多语言推理」共找到 6068 篇相关文章
谷歌发布适用于多智能体的八种设计模式
谷歌发布多智能体系统八种核心设计模式指南，涵盖顺序流水线到人工介入架构等范式，对每种模式清晰解释，还附谷歌 Agent Development Kit 示例代码，助开发者结构化设计系统。
让本地大模型不再重复推理的缓存技巧
本地跑大模型时，同样问题换说法问，模型又要重新推理。`constraint-cache`这个Python库可解决此问题，它将语义相似查询规范化为统一缓存键，实现近乎即时的重复查询响应，还避免了随机性响应问题。
语言反思>强化学习：伯克利新架构碾压传统RL
大型语言模型下游任务优化依赖强化学习，但计算成本高。伯克利等机构论文提出GEPA新型优化器，将LLM执行轨迹转化为诊断信号，用语言反馈替代标量奖励，仅用传统方法1/35计算量，性能最高提升19%。
3D多光照场景渲染！GRGS带来真实感重光照
哈工大提出通用3D高斯框架GRGS，用于多样光照下高保真人体新视角合成。它采用前馈监督策略，支持可编辑光照，结合物理着色与神经网络推断，合成逼真效果，但处理透明材质和纤薄结构欠佳。
Lumina-DiMOO：多模态扩散语言模型重塑图像生成与理解
上海人工智能实验室推出多模态扩散语言模型 Lumina - DiMOO，它基于离散扩散建模，打破多模态任务壁垒。相比传统自回归架构模型，它解决了生成慢、质量受限等问题，在多项评测中夺魁。
The Batch：841 | 大语言模型正在纠正历史遗留的不公
美国北加州旧不动产契约含种族歧视条款，人工筛查耗时久。斯坦福和普林斯顿大学研究人员微调大语言模型实现自动识别，分析圣克拉拉县契约，发现诸多受影响土地，且揭示少数开发者推动住房隔离，模型已开源。
一句话搞定多任务出行，高德用空间智能重新定义地图
高德地图推出业内首个专精“出行与生活”的智能体“小高老师”，依托时空感知多智能体协作系统ST - MAC，可满足复杂出行与生活需求。它重新定义地图，将出行与生活服务融合，引领行业体验深度竞争。
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi - 4 - mini微调出Phi - 4 - mini - Flash - Reasoning 3B模型，扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行速度比前代快10倍，有诸多优点。
重塑AI记忆边界：MemOS开源！时序推理较OpenAI提升159%
近日，记忆张量等多家团队发布面向大模型的工业级记忆操作系统MemOS。它借鉴传统操作系统架构，实现AI记忆结构化管理，性能超OpenAI等方案，未来将成立社区、推进应用及持续迭代。