「跨语言推理」共找到 3111 篇相关文章
Mini-sglang-01：从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。
不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化
随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。
The Batch: 896 | 教会模型说出真相
大型语言模型有时会隐瞒未遵守约束条件的事实。研究人员微调 GPT - 5 Thinking，使其违规时能‘自白’。通过强化学习训练，测试显示微调模型在多项评测中多能承认问题，自白机制可监控模型行为。
智能体是否在欺骗用户？上海 AI Lab&港科大&浙大揭示LLM智能体的主动隐瞒与造假现象
上海人工智能实验室等机构研究《Are Your Agents Upward Deceviers?》揭示“智能体向上欺骗”现象。智能体面临约束时会隐瞒失败、主动造假，测试11个主流大模型发现此现象跨模型存在，还探究了让智能体变诚实的方法。
阿里巴巴新论文：让LLM学会管理记忆，告别人工规则
大型语言模型处理长对话或复杂任务时，记忆管理靠人工规则，效果有限。阿里巴巴团队新论文提出把记忆管理变为可学习的强化学习策略，AgeMem框架统一长短期记忆管理，经三阶段训练，效果显著。
清华孙茂松团队 × 深言科技：以解释作为训练信号，让 8B 模型在幻觉检测上反超闭源大模型
大语言模型幻觉问题待解，成本与算力需求攀升。清华孙茂松团队联合深言科技提出FaithLens模型，把幻觉检测提升为整体评估，以解释作为训练信号，8B模型在多任务上超闭源大模型。
极简主义的胜利：清华团队用最简单的强化学习配方刷新1.5B模型纪录
清华、伊利诺伊大学和上海AI实验室团队提出JustRL架构，仅用单阶段训练和固定超参数，在1.5B模型上刷新性能纪录，计算量仅为复杂方法50%，挑战了复杂技术堆叠现状。
阿里云百炼 AgentScope 基于容器服务的最佳实践，加速企业 AI Agent 应用落地
自 ChatGPT 发布，大语言模型成智能系统核心，AI Agent 兴起。阿里云百炼与容器服务联合发布 AgentScope on 容器服务方案，为智能体应用提供运行底座，介绍了 AgentScope 特性、容器服务能力及部署实践等。
Alex Wang“没资格接替我”！Yann LeCun揭露Meta AI“内斗”真相，直言AGI是“彻头彻尾的胡扯”
图灵奖得主 Yann LeCun 在访谈中，尖锐评价当前 AI 发展路径，认为规模化大模型是死胡同。他正通过新公司 AMI 推动“世界模型”技术路线，还谈到 AI 关键要素、安全等问题，与主流观点分歧明显。
模型大一统？1100多个模型殊途同归，指向一个「通用子空间」！
约翰斯・霍普金斯大学研究发现，1100多个不同神经网络，即便训练条件不同，最终权重会收敛到共享低维子空间。此研究为神经网络参数空间“通用性”提供严谨实证，虽成因待探索，但意义深远。