「推理优化技术」共找到 5270 篇相关文章
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
图像界的DeepSeek！12B参数对标GPT-4o，5秒出图，消费级硬件就能玩转编辑生成
Black Forest Labs开源旗舰图像模型FLUX.1 Kontext[dev]，专为图像编辑打造，能在消费级芯片运行。12B参数少、推理快，性能媲美闭源模型。有诸多特点，经优化训练，在KontextBench基准表现优。
首个转型AI公司的新势力，在全球AI顶会展示下一代自动驾驶模型
上周，小鹏 G7 亮相，首发自研芯片与 VLA - OL、VLM 模型。同时，小鹏在 CVPR 2025 分享研发进展。其世界基座模型展现高智能，还将结合世界模型迭代。此外，小鹏验证 Scaling Laws，转型 AI 公司，全链路优化技术。
传统RAG只会翻书不会用？RAG+让Reasoning能力上一个新高度！
现有检索增强生成（RAG）技术在需复杂推理领域表现不佳，像只给菜谱不给实操演示。RAG+开创性新增“应用案例库”，与知识库构成双料库，在数学、法律、医疗场景测试中全面碾压传统方案，团队还透露了未来方向。
SGLang支持GPT-OSS：从Day 0支持到性能增强
SGLang宣布重大更新，聚焦openai/gpt - oss - 120b模型深度性能优化与新功能。预填充和解码阶段吞吐量显著提升，支持多GPU，有推测解码等功能，还支持智能体应用程序，且不损害模型推理能力。
GPT-5点赞！八大顶尖机构发布「自进化智能体」全面综述
在2025年，大语言模型已演变为智能体，但现有智能体部署后难以适应变化。格拉斯哥大学等机构学者发布综述，系统梳理自进化AI智能体核心框架与挑战，提出三定律，还介绍了优化技术、应用案例等，并指出未来方向。
AI 渗透金融行业：大模型如何破解风控、服务与决策难题？
在数字化与人工智能驱动下，金融行业变革深刻。InfoQ《极客有约》X AICon 直播栏目邀多位专家探讨大模型赋能金融，涉及风控、服务、决策等难题，分享了大模型应用场景、技术渗透、权衡可解释性与性能等观点。
LightLLM中DeepSeek V3/R1 Two MicroBatch Overlap 实现解析
文章围绕LightLLM中DeepSeek V3/R1的Two MicroBatch Overlap实现展开。介绍了该技术原理，通过拆分推理过程、精心设计执行顺序实现计算与通信重叠。还阐述了数据结构设计、预处理、核心执行流程，以及优化策略和配置启用方式。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”？
InfoQ《极客有约》X AICon 直播，邀请华为昇腾专家 ZOMI 酱、蚂蚁集团马介悦和 SGLang 尹良升探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代策略、推理部署优化、开源项目挑战等内容。
AI 播客原理解析
作者分享用豆包AI播客将英文长文转成高质量播客的体验，解析AI把文章变真人对话式语音播客的原理，涉及提示词工程和文字转语音技术，还介绍提示词写作与优化过程及长文处理方法。