「推理市场」共找到 2717 篇相关文章
10秒视频token超5万，O(n²)跑不动？用后训练线性化框架实现1.71倍加速，推理成本大降｜CVPR'2026
视频生成进入大规模时代，但计算成本高，自注意力复杂度O(n²)跑不动。研究团队提出LINVIDEO后训练框架，无需数据和重新预训练，实现视频扩散模型线性化替换，保持生成质量，加速推理并降低成本。
6.1k星星！开源流式MoE推理框架，仅需2.5G内存就能运行350亿参数模型，手机电脑都能跑
本文介绍了获6.1k GitHub Star的开源流式MoE推理框架Edge0，该框架通过SSD专家卸载、路由预测和Recover-LoRA技术，仅需2.5G内存即可运行350亿参数大模型，支持多平台部署运行。
AI实力榜大洗牌！OpenAI谷歌强势领跑，Anthropic节节败退
Poe最新报告显示，2025年1 - 5月AI各领域市场份额大洗牌。OpenAI和谷歌势头猛，Anthropic掉队。文本生成、推理、图像等各领域竞争激烈，企业需搭建评估体系，按需选模型。
AI开源狂飙，OpenAI们慌了！GenAI大洗牌，2025趋势深度解读
2025年，ChatGPT仍领跑，但DeepSeek、Qwen等开源模型加速追赶。独立机构报告总结六大趋势，涵盖技术突破与市场格局演变，如推理模型实用化、MoE架构普及等，开源势力挑战闭源巨头。
Claude Opus 4.1被曝即将发布！Anthropic靠两大客户API收入超OpenAI
Claude Opus 4.1被曝正在内部测试，或重点提高推理和规划能力。Anthropic过去7个月ARR涨至50亿美元，API收入超OpenAI。但它收入依赖AI编程，面临GPT - 5、Grok等竞争。
时隔六年，OpenAI 为什么再次开源？
OpenAI发布两款开源纯文本推理模型，时隔六年再次开源。其gpt - oss - 120b性能与o4 mini相当，成本降超10倍。此次开源有战略考量，或是为构建生态、吸引企业，也反映出其对自身价值定位更清晰。
横扫八大数学竞赛：清华微软联合提出STAR-PólyaMath，Apex基准超GPT-5.5 13.5%
清华大学与微软亚洲研究院团队提出推理多智能体系统 STAR - PólyaMath，构建探索 - 推理 - 验证框架，解决大模型长程数学推理瓶颈，在八大数学竞赛基准获最优成绩，还可泛化到其他推理场景。
谷歌TurboQuant会绕过“内存墙”？这个判断有点过了｜甲子光年
谷歌发布的TurboQuant论文引发市场震动，其算法可将大语言模型推理的KV缓存大幅压缩并加速。但将其视为绕过‘内存墙’判断过度，它提升单位字节信息密度，改变边际需求曲线，代表范式转移。
120页深度报告，搞懂今年大模型和应用的现状与未来
Innovation Endeavors合伙人Davis Treybig发布《State of Foundation Models》（2025），从七个维度剖析AI产业现状与趋势。报告指出，AI发展迅速，模型成本高且迭代快，应用渗透各行业，智能体崛起，市场结构变革，公司运作方式也在重塑。
中国AI芯片迎「华为时刻」
国内AI芯片市场正经历变革，“去英伟达化”成热词。科技巨头推动自研，9月国产芯片捷报频传，性能追赶超越英伟达。这既因地缘政治致供应链风险，也是AI从训练到推理转变下的必然选择。