「推理时代」共找到 3144 篇相关文章
The Batch: 899 | 更划算的推理
研究人员提出 Delethink 强化学习方法，训练大模型定期截断推理 token 至固定最大数量，以限制处理长思维链成本。经测试该模型在多方面超基线，且缓解计算成本限制，为长上下文推理提供路径。
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型，采用大规模 MoE 架构，优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化，对齐其推理系统性能，分享关键技术、不足与思考，还提及对 Qwen3 模型的优化策略。
10% KV Cache实现无损数学推理！这个开源方法解决推理大模型「记忆过载」难题
推理大模型推理时易现冗余问题，R-KV开源方法登场，显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余，还经多步骤压缩KV缓存，性能测试表现出色，适用多场景。
AI时代的设计：审美是唯一护城河！
文章指出AI时代设计门槛从会用软件转向有审美。介绍设计门槛转变原因、审美重要性，给出培养审美方法，推荐相关工具，为不会设计的人提供建议，强调审美是AI时代设计唯一护城河。
新版Claude曝光：“极限推理”成最大亮点
O家刚免费上线GPT - 4.1，A家新版Claude Sonnet和Claude Opus被曝即将发布，亮点是“极限推理”，能在推理和工具使用间建立动态循环，更智能处理问题，预计未来几周发布，虽有网友质疑，但也有实测证据。
今天，好像见证了属于SD时代的消亡。
liblib宣布升级到2.0，作为国内最大SD生态开源社区，其转型宣告SD时代落幕。曾几何时，SD让普通人感受AI绘图魔力，如今技术迭代，AI绘图门槛降低，新模型受大众青睐。
The Batch: 939 ｜在推理阶段学习长上下文
大型语言模型处理长上下文时通常准确性降低、速度变慢，研究人员提出TTT - E2E方法，通过推理时训练模型将上下文压缩到transformer权重中，还展示了其运作方式、测试结果等。
AI 时代，重新定义开发者丨最新白皮书解读
AI时代开发边界被重定义，更多非传统开发者用AI工具解决业务问题。知乎等发布白皮书，揭示新时代开发者画像、核心焦虑，还讲述其认知飞轮及案例，展现AI对开发的变革。
ADHD，反而成了 AI 时代的版本答案？！
文章探讨ADHD在AI时代的意义。ADHD大脑多巴胺调节回路有差异，过去被视为问题的特质如今成优势，如发散创造力、短时聚焦和混乱适应力。AI为ADHD带来新体验，让其更适合开荒。还分享在AI时代做ADHD的经验。
告别「盲目自信」，CCD：扩散语言模型推理新SOTA
华为小艺香港团队等研究人员提出上下文一致性解码算法（CCD）。它解决传统DLM推理“短视”和采样预算固化问题，在开源DLMs上实现3.48倍加速和3.9%性能提升，适配多种解码设定。