搜索：大模型推理系统

「大模型推理系统」共找到 9080 篇相关文章

“像把大象塞进冰箱一样困难”，端侧大模型是噱头还是未来？

InfoQ《极客有约》X AICon 直播聚焦端侧大模型，探讨其落地挑战与破局思路。专家指出端侧部署有隐私、可用性等优势，但面临内存、精度等难题。华为、支付宝等分享方案，还探讨应用场景、商业模式及未来趋势。

字节跳动Seed团队发布Seed 2.0系列模型，含Pro、Lite和Mini版。该系列在数学、代码、多模态理解等方面表现出色，价格优势明显，但在编程、事实准确性上与部分竞品有差距，已开放API。

来自多机构的研究者揭示大模型强化学习中熵变化机制。发现策略熵在训练中急剧下降致性能停滞，提出 Clip - Cov 与 KL - Cov 两种正则化技术调控高协方差标记，遏制熵塌缩，在部分数据集上性能提升显著。

OpenAI新模型在2025年IMO达金牌水平，GPT - 5也将发布。但陶哲轩指出缺乏统一测试标准，影响公平比较。MathArena测试中，Gemini 2.5 Pro仅13分，远低于铜牌线。

文章深度实测MiniMax-M2.5编程能力，用其开发多款游戏和点名工具，结果出色。还分析其底层技术，如原生Agent RL框架、过程奖励机制等，指出它性价比高，虽有不足但值得关注。

昨夜阿里推出全新多模态模型Qwen-VLo，在原有能力上全面升级，有细节捕捉、图像编辑、多语言支持等亮点，不受固定格式限制。官方demo展示多种玩法，目前免费可玩，实测其编辑能力不错。

北大等机构团队跨界用物理学最小作用量原理，提出新颖方法估计 LLM 生成方向性，揭示其背后‘物理定律’。发现 LLM 生成有细致平衡现象，还能用物理指标给大模型画像，让 AI 研究提升到‘物理科学’高度。

2025年9月Hot Chips上，d - Matrix展示3D堆叠数字内存计算技术，直击AI“内存墙”难题。其产品Corsair带宽强大，新Pavehawk架构更有性能跃升，为AI推理开辟新赛道，虽面临挑战但前景可期。

中国自研世界模型Matrix-3D可单张图生成3D世界，效果对标李飞飞的World Labs，还能实现更大范围探索。它有诸多优势，技术上有创新，数据集有特点，应用前景广泛。

Claude Opus 4.7发布48小时口碑两极撕裂。官方榜单并列全球第一，但逻辑推理公开测试成绩暴跌，token消耗涨35%，旧接口报错，用户吐槽「更贵、更蠢、更爱顶嘴」，Anthropic虽解释却难平用户怒火。