搜索：推理算法优化

「推理算法优化」共找到 3363 篇相关文章

Agent狂欢下的冷思考：为什么说Data&AI数据基础设施，才是AI时代Infra新范式

文章指出Agent成AI主流叙事，但企业部署后效果不佳，因未认识到Agent平台无法单独构成AI Infra。强调数据是AI Infra核心，提出Data&AI数据基础设施是新范式，还分析赛道玩家并介绍科杰科技的实践。

本文详细列举 8 个主流大语言模型，硬核拆解架构设计与革新思路，介绍架构演进趋势。如 DeepSeek-V3 的 MLA 与 MoE 技术，OLMo 2 的归一化策略，Gemma 3 的滑动窗口注意力机制等。

OpenAI首席科学家访谈时被要求禁止透露重要员工名字，因Meta常挖人。GPT - 5将发布，奥特曼谨慎应对。此外，还介绍了OpenAI研究方向、瓶颈，以及其他公司在挖人大战中的举措。

五源小酒馆对话三位AI Agent前沿研究者，探讨其发展进展、挑战。他们分享对Agent定义、能力边界判断等，提及过去技术突破，如DeepSeek工作，也指出通用Agent瓶颈，探讨未来模型能否提有价值问题等。

7月国产开源大模型竞争激烈，智谱发布的GLM - 4.5刷新开源大模型编程和agent能力。它成本低、速度快，还能与Claude Code配合。文章介绍该模型特点，分享二者使用教程及原型设计、网站开发等实测案例。

创智学院团队发布的AI超智能系统ASI - ARCH，自主发现106个超越人类设计的神经网络架构，建立“科学发现缩放定律”，实现从“自动化优化”到“自动化创新”转变，还将成果开源推动研究发展。

文章聚焦于用pytorch memory snapshot分析模型训推显存消耗，不讨论工具使用，侧重解读记录内容。以混合精度训练为例，介绍各步骤显存管理细节，还给出单层、双层模型及zero1训练的显存分析。

半小时前马斯克发布Grok - 4，虽Grok3.5跳票、直播迟到被吐槽，但它训练量和算力投入大。在多项基准测试中碾压Claude Opus 4，还具备原生工具调用等能力，xAI目标是让其更快更智能。

过去半年，开源Agent在解决复杂难题时难敌OpenAI。昨天阿里通义开源WebSailor模型，用完整可复现方法论挑战闭源霸权，通过构造L3合成数据、取精华训练轨迹、两步走训练策略提升性能。

Grok 4跑分提前泄露，在「人类最后考试」中得分高达45%，远超Gemini与Claude，成为当前测试中最强模型之一。马斯克表示Grok 4以「第一性原理」构建推理机制，有望改写LLM格局。