「推理速度」共找到 2525 篇相关文章
拆箱开源版Coze：Agent核心三件套大公开，48小时揽下9K Star
扣子两款子产品扣子开发平台和扣子罗盘近期开源，加上此前开源的开发框架Eino，覆盖了Agent开发全链路。其采用宽松的Apache 2.0开源协议，降低开发门槛，有望带动Agent在更多场景落地。
腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s
腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法，通过PD分离、多层MTP优化等全栈优化方法论，还介绍多机性能优化方案，后续预计性能突破20000 tokens/s。
国产芯片比英伟达整体效率更高！？华为 CloudMatrix384 超节点首曝论文，跑 DeepSeek 效率超越英伟达
今年4月，网上曾争论华为芯片效率是否超国际主流。近日华为团队论文公开，阐述在CloudMatrix 384超节点部署DeepSeek大模型细节，性能指标超英伟达体系，还介绍架构、软件栈及适配优化方案。
The Batch：835 | 图表中的 AI 市场趋势
知名投资分析师 Mary Meeker 时隔六年发布 340 页 AI 市场报告。报告指出 AI 变革快、性能攀升、有新兴能力，还会影响劳动力等，同时也带来经济不确定性，当下是开发软件应用的黄金时期。
3B小模型吊打72B巨头！轻量级文档解析OCR，性能超Gemini，高效且精准！
Yuliang - Liu团队在GitHub开源轻量级文档解析模型MonkeyOCR，以SRR三元组范式实现高效精准解析，3B参数模型在英文文档解析上超Gemini 2.5 Pro和Qwen2.5 - VL - 72B，还介绍了安装部署、适用场景等。
MiniCPM 4.0来了！220倍极速狂飙，端侧模型的比赛，结束了
面壁智能联合清华发布MiniCPM 4.0，极限场景220倍加速。它是首个原生稀疏模型，有三级火箭推理加速体系，性能强，适配全平台，应用广泛，或成端侧AI分水岭。
13.8K star！！6G显存就能跑的AI视频神器，支持1分钟生成，这么6？！
现在AI视频生成领域仍面临高算力需求挑战，斯坦福大学研究团队推出`FramePack`项目，降低了本地AI视频创作硬件门槛，有低硬件需求、高效生成速度等特色，操作也简单。
近期必读，Mary Meeker 340页PPT分析AI现状和未来
Mary Meeker发布340页《人工智能趋势报告》，分析AI现状与未来。报告指出AI发展迅速，用户、使用量和资本支出增长前所未有，但也面临变现威胁，如竞争加剧、开源模型崛起和中国追赶，同时AI正深刻改变工作方式。
大模型首次打破围棋思维「黑盒」，打通科学发现新路径！上海AI Lab发布新一代InternThinker
上海AI Lab发布新一代书生·思客（InternThinker），它是我国首个具围棋专业水平且能展示透明思维链的大模型。其得益于InternBootcamp训练环境，还在多任务混合训练中现‘涌现时刻’，背后有通专融合底层技术突破。
创新性自动化 AI 工具-终结者机器人
Terminator是最快的AI优先计算机操作SDK，用类似Playwright的API与Windows原生GUI应用交互，比基于视觉的方案更快更可靠，能操作后台应用。它重点支持Windows，部分支持macOS，暂不支持Linux。