「成本优化」共找到 2590 篇相关文章
Agent狂欢下的冷思考：为什么说Data&AI数据基础设施，才是AI时代Infra新范式
文章指出Agent成AI主流叙事，但企业部署后效果不佳，因未认识到Agent平台无法单独构成AI Infra。强调数据是AI Infra核心，提出Data&AI数据基础设施是新范式，还分析赛道玩家并介绍科杰科技的实践。
硬核拆解大模型，从 DeepSeek-V3 到 Kimi K2 ，一文看懂 LLM 主流架构
本文详细列举 8 个主流大语言模型，硬核拆解架构设计与革新思路，介绍架构演进趋势。如 DeepSeek-V3 的 MLA 与 MoE 技术，OLMo 2 的归一化策略，Gemma 3 的滑动窗口注意力机制等。
ShellAgent 2.0 体验：让前端消失，省掉 70% 开发资源
本文介绍Myshell ShellAgent 2.0测试情况，它仅用提示词就能生成Agent应用，摆脱前端构建流程，降低创建门槛。文中展示创建计算八字、分析钱包资产、拆解学习资料等应用案例，还能Remix他人发布的应用。
0.016%参数撬动18%性能：关键表征微调破解LLM推理瓶颈
大语言模型在推理任务依赖思维链技术，传统PEFT方法需修改大量参数，新兴ReFT虽只需调整少量参数，但存在不足。本文提出CRFT，仅用0.016%参数量就提升性能，为轻量化推理增强开辟新路径。
创智突破：AI首次自主发现106个超越人类设计的神经网络架构
创智学院团队发布的AI超智能系统ASI - ARCH，自主发现106个超越人类设计的神经网络架构，建立“科学发现缩放定律”，实现从“自动化优化”到“自动化创新”转变，还将成果开源推动研究发展。
如何利用pytorch memory snapshot进行显存分析
文章聚焦于用pytorch memory snapshot分析模型训推显存消耗，不讨论工具使用，侧重解读记录内容。以混合精度训练为例，介绍各步骤显存管理细节，还给出单层、双层模型及zero1训练的显存分析。
大模型「越用越快」！SpeedupLLM首次验证，大降56%推理预算
Emory大学研究者提出SpeedupLLM框架，利用动态计算资源分配和记忆机制，使LLM处理相似任务时推理成本降56%、准确率提升，论文系统性验证了LLM“越用越快”，为AI模型发展提供新思路。
阿里深夜开源王炸Agent！硬刚OpenAI，性能全面SOTA！
过去半年，开源Agent在解决复杂难题时难敌OpenAI。昨天阿里通义开源WebSailor模型，用完整可复现方法论挑战闭源霸权，通过构造L3合成数据、取精华训练轨迹、两步走训练策略提升性能。
强化学习新发现：无需数学样本，仅游戏训练AI推理大增
莱斯大学、约翰斯・霍普金斯大学和英伟达研究团队有颠覆性发现，让多模态大语言模型玩简单游戏，无需数学样本，就能显著提升其多模态推理能力。提出的ViGaL方法在多个基准测试中表现出色。
搜索 ≠ 简单匹配！0代码实现语义级图文互搜
在非结构化数据爆发增长的当下，传统图文检索方式难以满足企业需求。本方案介绍借助阿里云 Milvus 实现高效多模态图文检索，覆盖多场景，有开箱即用、性能强等优势，还给出架构、部署、验证及清理资源的方法。