「低延迟推理」共找到 2944 篇相关文章
警惕全球“最大”芯片IPO的暴雷风险
Cerebras 5月14日上市成2026年迄今全球最大IPO。其核心产品WSE工程有突破，但良率计算方式与传统不同。训练未成功，推理找到新机会。与OpenAI超200亿美元合同背后是股权换订单，财务数据也有隐忧，上市后存诸多疑问。
9B“小”模型干了票“大”的：性能超8倍参数模型，拿下23项SOTA | 智谱开源
智谱发布并开源仅9B大小的模型GLM-4.1V-9B-Thinking，在28项评测中拿下23个SOTA，成10B级别最佳VLM模型。它引入思维链推理机制，通过课程采样强化学习提升能力，还获10亿投资。
00后下场整顿Agent：啥都不学就能用好AI，这才是正确打开方式
AI圈模型变强但使用门槛变高，00后团队打造的胖鹅AI以低提示词为卖点，实测在生成视频、数据看板网页等方面表现出色。其核心是SOP体系，让AI适应人的习惯，降低使用门槛。
SD又回来了！一秒出图，手机就能玩：SD3.5-Flash让专业AI绘画进入“闪电”时代
Stability AI联合萨里大学SketchX实验室推出SD3.5-Flash模型，能在普通电脑甚至手机上快速生成专业级高分辨率图片。它将推理步骤压缩、显存要求降低、出图时间大幅缩短，画质也没明显缩水，还在性能上反超SD3.5M。
一周休4天！老黄、盖茨站台，网友炸锅：是AI福利，还是裁员信号？
Fortune报道引发网友对3 - 4天工作制热议。Zoom CEO袁征、黄仁勋、比尔·盖茨等大佬认为AI或带来此转变，袁征觉得AI会自动化低价值工作，也有人认为是裁员信号。黄仁勋称未来更忙，且有岗位消失也有新机会。
5张 H800 带来 20 FPS 高保真实时虚拟人生成
传统扩散模型做视频生成速度慢、画面不稳定，难用于实时虚拟人场景。阿里Live Avatar框架将算法和系统一起设计，用TPP并行推理策略和RSFM机制等，5张H800 GPU能实现20 FPS高保真实时虚拟人生成。
Anthropic 突发 Sonnet 5，但大家更期待 Fable 5 和 Mythos 5 明天解禁
昨夜凌晨，Anthropic 突然推出 Claude Sonnet 5，自封“性价比之王”。它重点提升计划制定等能力，价格更低，安全性能提升，但网络安全能力弱于 Opus 4.8 和 Mythos 5。不过用户反馈平淡，Anthropic 面临高端模型受阻和访问控制争议等问题。
GLM-4.7-Flash无审查版发布：30B MoE模型，仅3B激活参数
GLM-4.7-Flash无审查版由HauhauCS发布，基于原版移除审查机制。采用30B - A3B混合专家架构，总参数量31B，每次前向传播仅激活约3B参数，推理快，支持200K上下文长度，有两种变体和四种量化版本。
从 Langchain 到 Spring AI，我们究竟需要怎么样一个企业级 AI 开发基础设施？
文章指出AI Agent应用开发方式演变快，企业构建AI Agent体系面临挑战。介绍了AI Agent应用架构变化及趋势，如AI应用平台低代码效应、框架与平台双轨并行等，还总结了四类AI Agent框架及企业级框架平台核心考量。
The Batch: 885 | Claude 升级了
Anthropic更新中型模型Claude Sonnet至4.5版本，在性能上显著提升，还引入可变推理token预算。Claude Code智能编码工具也获功能增强，新增Claude Agent SDK等。测试中Claude Sonnet 4.5表现优异，Anthropic重心转向编码与职场生产力。