「推理优化与部署」共找到 3516 篇相关文章
最新豆包、deepseek、元宝、夸克、千问、百度、文心、Kimi、微信搜一搜、抖音、小红书等AI搜索生成内容引用来自哪些地方？【干货】
作者白杨SEO指出，生成式人工智能发展快，AI搜索优化GEO受关注。介绍了豆包、DeepSeek等多个AI搜索生成内容引用来源，如豆包引用抖音、头条等，DeepSeek用开源数据等，还提及各平台优化要点。
谷歌最强具身大脑发布！波士顿机器狗瞬间人模人样
Google DeepMind发布机器人推理模型Gemini Robotics - ER 1.6，搭载它的波士顿动力机器狗能精确读仪表数字。该模型是第三代，在空间推理等方面显著提升，还新增读仪表能力，且是谷歌迄今最安全的机器人模型。
SGLang Hierarchical Sparse Attention 技术深度解析
阿里云等团队推出面向 Sparse Attention 的分层稀疏化框架，介绍其架构、机制与实践。此框架破解了长上下文推理时的计算与容量瓶颈，以 DeepSeek DSA 集成测试，使推理性能大幅提升，目前项目处于开发阶段。
AI 怎么自我改进？Lilian Weng 的答案是：先写好Harness
提出 Agent 基本公式的 Lilian Weng 探讨 AI 递归自我改进，强调‘harness’重要性，介绍其设计模式、优化方法，还提及未来挑战与有用基准。如 harness 工程额外包含工作流设计等，优化方式多样但也面临评估器弱等问题。
国产版Ollama来了，Clawdbot终于不只属于Mac和英伟达
2月2日清昴智能发布玄武CLI开源版本，可理解为“国产版Ollama”。它能抹平硬件架构差异，让国产卡大模型部署零门槛。解决了国产算力在软件生态层面的痛点，提供统一稳定的部署与调用体验。
DeepSeek们越来越聪明，却也越来越不听话了。
论文《When Thinking Fails: The Pitfalls of Reasoning for Instruction - Following in LLMs》用实验验证，模型推理能力变强时，提示词遵循能力变差。研究团队对15个模型测试，发现用CoT推理后执行准确率下降，还提出4种提升指令遵循效果的方案。
不用人类手写训练框架了！AI自己写代码，训出1B端侧「小钢炮」
5月25日，面壁开源端侧文本基座大模型MiniCPM5 - 1B，主打低成本部署等。它由AI编写的ForgeTrain框架参与预训练，效果与英伟达Megatron对齐且速度快10%。该模型在榜单表现优，应用边界广，部署门槛低。
秋招超强助攻：零基础1小时上手GPT微调！全流程教程免费开源
新一年秋招季，岗位对AI能力要求提升。OpenAI发布新开源大模型GPT - OSS，博主Lorentz Yeung开源本地部署和微调训练GPT - OSS的教程，助零基础者上手，还介绍环境搭建、代码和训练前后效果对比。
实测Perplexity Pro平替模型，免费开源仅4B
一款仅4B大小的开源模型Jan-v1，声称能平替Perplexity Pro，且完全免费、支持本地部署。实测发现，它在检索增强生成、上下文深度分析等能力上表现不错，入门级显卡即可带动本地部署。
AI秒破18世纪「天书」账本！谷歌新模型盲测刷屏全网
谷歌AI Studio上一神秘模型引发关注，它识别200多年前商人的「天书」账本，修正格式错误与模糊表述，推理能力令历史学家震惊。该模型解决手写识别和推理两大难题，或为谷歌将推的Gemini - 3。