「推理优化」共找到 2993 篇相关文章
英伟达的AI已经开始接管整个项目了？SATLUTION自主进化代码库登顶SAT竞赛
NVIDIA Research提出SATLUTION框架，将LLM代码进化能力扩展到完整代码库规模，能处理复杂项目。它协调LLM智能体对SAT求解器代码库迭代优化，在SAT竞赛中超越人类冠军，成本低且效率高。
ZeroGPU Spaces 加速实践：PyTorch 提前编译全解析
本文聚焦 ZeroGPU Spaces 加速实践，介绍 PyTorch 提前编译。ZeroGPU 使在 Hugging Face Spaces 用 Nvidia H200 硬件更高效，但有局限。提前编译可优化模型，提升演示速度，还分享了接入方法、高级技巧及演示示例。
The Batch: 866｜GPT-5 起飞遇乱流
OpenAI推出GPT - 5及其系列模型，涵盖多种类型，有新功能与性能提升。但发布中路由器故障等问题让用户失望。它在部分基准测试表现佳，不过抽象推理能力有不足，还回顾了发布历程。
55.9K star！微软硬核开源文档转换神器，LLM最佳拍档！
介绍微软开源的轻量级Python文档转换工具MarkItDown，它支持20+格式智能转换为结构化Markdown，专为LLM文本分析场景优化，解决开发者处理多格式文档痛点，还阐述其功能、技术架构等内容。
告别微调！斯坦福提出Agentic上下文工程
当前微调大语言模型成本高、不灵活，‘上下文适应’方法有短板。斯坦福大学等提出ACE框架，将上下文变为动态‘战术手册’，解决现有问题。论文通过实验验证其在性能、成本和效率上优势，为大模型发展指明新方向。
让64张卡像一张卡！浪潮信息发布新一代AI超节点，支持四大国产开源模型同时运行
浪潮信息发布新一代AI超节点“元脑SD200”，可让64张卡像一张卡。它支持四大国产开源模型同时运行，实现算力聚合突破，通过软硬协同优化提升推理性能，采用开放架构推动“智能平权”。
所有环节都上最强模型，这可能是做 AI 智能体最贵的错误
开源项目 AgentOpt 指出，很多团队做 AI 智能体默认把最强模型塞进各环节，既贵效果也未必好。真正决定智能体效果和成本的是将合适模型放合适位置，智能体需要能找最优解的模型优化器。
谷歌AI的“心脏”长什么样？读懂TPU就够了
文章介绍了谷歌TPU的发展历程，从2015年为解决AI计算效率瓶颈自研，发展到如今成为谷歌“经济支柱”。还对比了谷歌、英伟达、亚马逊的芯片路线，强调谷歌全栈垂直整合策略使TPU在推理时代优势明显。
重新思考RLVR中的熵正则：从探索不足到探索过度的破局之路
2024年以来，RLVR使大模型在推理任务有显著突破，但实践中探索机制易失衡。传统熵正则化在LRM场景易走向极端，研究团队提出SIREN方法精准调控探索，实验显示其在多模型和数据集上性能提升显著。
刚刚，Figure 03人形机器人登场，能感知一枚回形针重量
Figure 03是初创公司Figure发布的第三代人形机器人，能做家务、胜任服务类工作，指尖可感知3克力。它配备新传感器和手部系统，为家庭设计，实现无线自主运行，也为量产和商业应用做了诸多优化。