「推理指南」共找到 2283 篇相关文章
Codex在推理框架上能蹬出什么优化
作者复盘用Codex在SGLang中的实践，原本需3 - 4个月的工作量现缩短为1个半月。介绍保证代码质量方法，分享印象深刻的debug经历，列举在SGLang用Codex一个月的优化成果，还提及Claude Code使用遇阻。
小白 Vibe Coding 发行全平台&可变现应用指南
文章以作者用 Youware 开发 AI 日记软件 Vibe Diary 为例，介绍 Youware 的 Youbase 和 Coview 能力，展示其构建全平台可变现应用的强大，包括后端服务、数据库、AI 功能、UI 修改等，还提及 PWA 打包和变现集成。
Anthropic 最新博客：构建 AI Agent 评估体系完整指南
Anthropic 工程团队发布博客《Demystifying evals for AI agents》，揭秘内部对 AI Agent 的评估方法，涵盖评估结构、构建原因、常见 Agent 类型评估技术、评估非确定性处理、构建路线图及与其他方法配合策略等。
高通要发两款AI推理芯片，资本市场反应强烈
高通周一宣布明年推AI200芯片，2027年跟进AI250，股价应声上涨。两款芯片基于移动神经处理技术，专攻AI模型部署，沙特AI公司已计划采用，高通想借此进军AI芯片市场。
OpenAI 发布公司领导者 AI 行动指南，助力企业发展
OpenAI 2024 年走访超 200 家营收 10 亿美元企业，发现拖慢 AI 落地的是‘领导层叙事缺口’。结合客户实践，总结出对齐、激活、放大、加速、治理 5 个可落地步骤，助企业构建以 AI 为核心的组织。
OpenAI公开4+10条保命指南，专防AI自动化攻击
OpenAI联合创始人兼总裁Greg Brockman在Blog中警告，前沿AI Agent能自主找漏洞并发动网络攻击，AI降低攻击门槛，防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措，呼吁行业共建安全生态。
千星项目LLMRouter：多模型路由，16+策略优化推理
UIUC开源智能模型路由框架LLMRouter，可自动为大模型应用选最优模型，有16+路由策略。该框架打通训练、评测等链路，解耦Route与Training模块，支持多轮协同等，还可插件式扩展。
DeepSeek又拿第一！首创「因果流」视觉推理，超越Gemini
DeepSeek开源DeepSeek - OCR2，引入DeepEncoder V2视觉编码器，打破传统模型扫描限制，模仿人类视觉「因果流」逻辑。它解决了传统VLM忽略图像语义结构问题，在多项测试中表现出色，还验证了「LLM作为视觉编码器」可行性。
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型，面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践，如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等，还提及未来优化方向。
刚刚，Anthropic 发布 Claude「宪法」：一份写给 AI 的人生指南
Anthropic 公开给 Claude 写的数万字「宪法」，从「规则清单」升级为「价值体系」，设定四个核心价值，有「聪明朋友」理论，设硬性限制，对诚实要求严格，还探讨意识等问题，强调透明度和持续进化。