「大模型成本」共找到 9818 篇相关文章
本周六直播预约 | Test-Time Reasoning综述分享！
当大模型训练成本飙升、数据枯竭，推理阶段扩展Test-Time Scaling（TTS）成研究热点。论文提出四维正交分析框架，梳理主流技术路线，提炼发展路径，给出操作指南与未来思考，本周六将直播分享该综述。
Void IDE，Cursor 的开源替代品，发布测试版
新的开源AI代码编辑器Void IDE发布测试版，定位为Cursor等闭源编辑器的免费隐私替代方案。它是VS Code分支，能利用多种大模型，提供AI功能，开发者对其开源和隐私立场感兴趣。
LLM后训练太烧钱？清华&腾讯有了破解法门：关键是得会Rollout
大模型强化学习后训练中，rollout预算易成瓶颈，且并非所有rollout都有用。清华和腾讯研究者提出TRACE框架，将Agent轨迹视为树，分配预算给易产生“成功/失败对比”的节点，实验显示其效果良好。
一文带你彻底理解AIGC、Agent、MCP的概念和关系
本文为非AI开发者科普AIGC、Agent、MCP概念和关系。AIGC用AI生成内容；Agent可自主决策调用工具；MCP是Anthropic开源协议，降低模型与工具集成成本，获大厂支持。
OpenAI连破10道数学难题，Fable 24小时「复现」5道
这个周末，OpenAI与Anthropic两大AI巨头在数学前沿短兵相接。先是OpenAI用未发布模型Astra证明10项数学成果，不到24小时，Anthropic的Fable复现了其中5项。AI解难题成本降低，成果验证成新考验。
缓存不该困在一台服务器里
本文分析大模型推理阶段KV缓存的行业痛点，指出传统单机缓存孤立无法跨节点复用的问题，介绍焱融科技的分层共享缓存方案，公开了方案的实测性能数据，展现AI存储的新发展方向。
开源共建重塑推理 Infra：从架构创新到生态协同，Mooncake的破局之路
大模型推理落地面临成本、吞吐、长上下文“三角困境”。开源项目Mooncake以“计算存储解耦”为核心，通过PD分离等技术提供底层支撑。直播邀请专家从多视角拆解其技术逻辑、开源价值与企业实践。
全球AI算力大战变天！十万卡算力集群爆表，国产IB真香？
大模型竞赛进入万卡、十万卡时代，网络取代算力成新瓶颈。过去RoCE因成本优势受青睐，但集群规模扩大后运维复杂。IB架构以其稳定性迎来价值重估，国产IB方案突破或改变技术路线选择。
博士宿舍激情脑暴，革新了Scaling Law？Qwen和浙大联手推出新定律，直接干掉95.5%推理内存！
近日，阿里与浙大合作提出并行计算缩放定律 ParScale，可在不增参数下提升大模型能力，推理效率更高。它通过引入并行流实现，在数学、编程等任务表现佳，适合边缘设备，代码已开源。
刚刚，清华团队养出了一只「龙虾老师」！教育版OpenClaw震撼开源
清华教育学院与计算机系联合团队开源多智能体AI课堂OpenMAIC。它能一键生成交互式课程，AI老师语音授课、AI同学互动。经两年真实课堂验证，支持主流大模型，有望成教育版ClawHub。