「代码推理」共找到 3504 篇相关文章
成立7个月首发声！百亿美金独角兽万字雄文：攻克LLM推理非确定性难题
估值120亿美元的Thinking Machines Lab成立7个月首次公开研究成果，揭示LLM推理非确定性的真凶是kernel缺乏批处理不变性。介绍了实现批处理不变性的方法，还通过实验展示其效果及对同策略强化学习的意义。
推理“刹不住车”？新框架让DeepSeek-R1们告别过度思考，已开源
DeepSeek - R1等推理模型能力增强，但出现过度思考问题，如步骤繁冗、表述拖沓、输出冗长。浙大等团队提出Self - Braking Tuning（SBT）框架，能让模型适时终止推理，在多数据集测试中效果显著。
vLLM Ascend超越MindIE？ 昇腾推理Qwen3与DeepSeek R1 Distill性能实测
国内开发者在昇腾NPU上进行大模型推理面临挑战，华为MindIE推理引擎使用门槛高。昇腾联合vLLM社区推出vLLM Ascend插件。本文用GPUStack平台实测其与MindIE性能差异，得出两者在不同场景各有优势的结论。
OpenClaw 技术闭门：测试将比代码更值钱，Agent Computer 会是新的硬件形态
OpenClaw 持续发酵，从极客「玩具」变为生产力工具。闭门分享中，开发者们探讨了其在实际业务中的应用。如代码成负债，测试更重要；不同用户对 OpenClaw 认知差异大；Platform Engineering 成工程师核心，还提及 Agent Computer 新硬件形态等。
GPT-5实锤，悄悄上线代号「龙虾」！版本号曝光，实测编程惊人能改屎山代码
代号「龙虾」的神秘模型在WebDev Arena现身，网友猜测是GPT - 5，提前试用者称其编程能力惊人，能改屎山代码。多位用户表示其在代码生成等方面超越Claude，OpenAI或已秘密测试。
Jina Code Embeddings: 为高质量代码搜索而生的0.5B/1.5B向量模型
本文介绍了 Jina AI 开源的代码向量模型 `jina-code-embeddings`，含 0.5B 和 1.5B 规模，有 GGUF 量化版本。它性能顶尖，支持多任务与 15 种语言，还介绍了训练方案、使用方法等。
无需训练，即插即用，2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention
高质量视频生成任务中，扩散模型成主流，但DiT模型注意力机制计算量大，成推理瓶颈。现有加速法效果不佳，为此美国东北大学等团队提出DraftAttention，可2倍加速推理且不损画质。
仅4人28天！OpenAI首曝Sora内幕：85%代码竟由AI完成
OpenAI团队揭秘安卓版Sora APP构建内幕，4人团队28天完成从0搭建，约85%代码由AI智能体Codex完成。Codex可自我迭代，在多方面表现出色，但也需人类指导。团队分享了与Codex协作的经验和技巧。
又一推理新范式：将LLM自身视作「改进操作符」，突破长思维链极限
Meta等机构研究者将LLM视为「思维」改进操作符，探究并行 - 蒸馏 - 精炼（PDR）推理方法。实验显示，PDR在数学任务中提升准确率，还训练8B模型让推理方法更适配，减少训练与部署的不匹配。
EMNLP 2025 | CARE：无需外部工具，让大模型原生检索增强推理实现上下文高保真
MetaGPT等机构团队发布CARE框架，可让LLM将推理上下文与自身检索能力结合，已全面开源。它提出原生检索增强推理范式，采用两阶段训练策略，在问答基准实验中表现出色，为解决模型问题提供新路径。