「推理部署」共找到 2645 篇相关文章
Claude Sonnet 5 上线一日差评刷屏：打不过千问和 Minimax，性价比全面翻车
Claude Sonnet 5发布一天差评多。虽官方定位高，有能力亮点，但在中文测评中性价比低，测试成本高，且Max推理模式易过度思考。还因过度保守失去实用价值，其表现取决于使用场景和预算。
AI算力大战打到太空！英伟达前脚H100入轨，谷歌TPU后脚上天，中国玩家笑而不语
英伟达和谷歌在太空算力布局上竞争激烈，英伟达H100已入轨，谷歌TPU预计2027年初上天，二者都想建吉瓦级数据中心。太空部署有成本、散热等优势，但也有工程挑战，而中国之江实验室星座已商用。
IDC 最新AI Infra报告解读｜AI 云爆发的背后：AI 应用全球化势不可挡
近期 IDC 发布报告，显示亚太企业 GenAI 应用增长快，AI 产业从开发到应用落地。这催生 AI 原生云，GMI Cloud 等新兴厂商崛起。同时，企业面临算力管理成本高问题，推理需求重塑市场格局，为中企出海带来机遇。
OpenAI入股AMD，股价暴涨35%！奥特曼左手黄仁勋，右手苏姿丰，通吃全球算力
OpenAI宣布与AMD达成战略合作，将部署6GW的AMD Instinct MI450 GPU集群，可认购最多1.6亿股AMD普通股，持股比例或达10%。消息公布后，AMD盘前股价飙升35%。此前OpenAI也官宣与英伟达合作。
Kimi 大模型训推混部的稳定性与资源优化实战
月之暗面系统工程师黄维啸在 QCon 大会分享 Kimi 大模型训推混部实践。介绍了训推集群挑战，如故障多、资源利用低等，还阐述了全链路稳定性提升、资源高效利用及强化学习混合部署等方案。
3B小模型，编程得分比肩Opus 4.5，神秘模型引发热议，原是国产
最近，3B小模型VibeThinker - 3B在X上火了，它在编程等推理任务上比肩前沿大模型，体积却小很多。它是国产模型，来自新浪微博团队，在各项基准测试表现出色，不过在通用知识领域表现欠佳。
狂砸百亿美元后，仅5%企业成功落地AI，他们做对了什么？
企业在生成式AI领域投入数百亿美元，但95%的机构未获可衡量商业回报，此为「GenAI鸿沟」。原因包括工具缺乏学习能力、预算分配失衡等。少数成功企业聚焦高价值用例，选易部署工具，与供应商深度合作。
中国AI芯片大突围，DeepSeek V3.1引爆算力革命
DeepSeek V3.1发布，是中国AI技术自主性的战略突围。它有6850亿参数，采用UE8M0 FP8适配国产芯片，具混合推理架构、Agent能力等。其发布或重塑AI产业格局，推动国产芯片发展。
AutoGLM深夜开源，千千万万个手机Agent要站起来了。
昨天深夜智谱将手机Agent AutoGLM开源，包含手机端智能助手框架和AutoGLM - Phone - 9B模型。它为解决隐私问题给出中间态解法，有3种部署模式，虽有不足，但让个人拥有本地手机Agent成为可能。
Ilya：扩展时代已经结束了，研究的时代已经开始
Ilya Sutskever 在播客访谈中深度探讨AI问题。他指出模型考试强但应用差，是因泛化能力不足；认为AI扩展时代结束，研究时代来临；还谈及AGI应是学习者，以及AI部署、安全对齐等观点。