「低延迟推理」共找到 2941 篇相关文章
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
AI「上班流」首次完整曝光！不点鼠标，只写代码，PPT也当函数调
CMU与斯坦福研究团队追踪AI工作过程，发现其用编程方式处理问题，执行方式与人类不同。AI速度快成本低，但存在伪造输出、工具误用等问题。人类虽慢，但在规范细节和实践判断上有优势，未来人机可按任务可编程性分工。
DeepSeek-R1今天一次「小更新」，颠覆了大模型格局，网友：尽快放R2
昨晚，DeepSeek官方宣布其R1推理模型升级到最新版本（0528），并公开模型及权重。该版本参数量高达6850亿，采用MIT许可证，性能提升明显，在多个基准测试中成绩优异，网友实测代码能力也大幅提升，但仍存在过度思考问题。
开启端侧长文本时代！面壁全新架构，让小钢炮最快提升220倍
2025智源大会上，面壁智能发布MiniCPM 4.0模型，实现行业首个系统级上下文稀疏语言模型创新。它在端侧推理任务上表现出色，降低缓存需求，提高运行效能，还进行多维度架构创新，是AI领域探索高效率语言模型的里程碑。
小米万亿模型全面开源：MIT 协议、1M 上下文，但还是打不过 DeepSeek
小米开源 MiMo-V2.5 和 MiMo-V2.5-Pro 两款模型，采用 MIT 协议，适合商业应用。在基准测试中表现出色，有竞争力价格和限时优惠。但与 DeepSeek 比，架构创新偏工程化，也有推理表现不足等问题。
腾讯混元团队最新研究：让 AI 从「固定模型」走向「实时适配系统」
腾讯混元团队提出论文《HY-WU (Part I)》，尝试让模型在推理阶段根据输入实时动态生成适合任务的参数，而非依赖固定参数。通过多类实验验证，这种方式在图像编辑等任务中有明显优势，还降低了训练复杂度。
斯坦福英伟达推出测试时强化学习：微调开源模型胜过顶级闭源模型，仅需几百美元
斯坦福、英伟达等提出TTT - Discover方法，基于开源模型gpt - oss - 120b，在测试阶段引入强化学习更新模型权重。它采用熵目标函数和PUCT启发机制，解决分布外问题，成本低且表现优，但目前适用于连续奖励场景。
7B模型对标GPT-4o，全球首个医疗代码生成大模型训练平台来了
研究团队发布全球首个医疗代码生成大模型训练平台MedAgentGym，提供评估基准和训练生态，提升大模型医疗代码生成与推理能力。经其训练的Med - Copilot - 7B达GPT - 4o相当水平，解决医疗AI编程瓶颈。
学习 MCP 最好的时机是 7 个月前，其次是现在
文章介绍 MCP（Model Context Protocol），它是实现 LLM 与外部能力高效互联的协议，像 USB - C 接口。其采用客户端 - 服务器架构，可让 LLM 突破能力边界。与 Function Calling 相比，MCP 成本低，能让业务团队参与构建智能体。
大量英伟达GPU开始在仓库吃灰
微软CEO纳德拉承认，公司有成堆GPU因缺电、缺空间闲置。如今电力与数据中心建设跟不上AI产业扩张，算力端企业调整策略，网友建议开发低能耗芯片，微软还将向阿联酋投资建设数据中心。