「低延迟推理」共找到 2940 篇相关文章
Anthropic 反杀 OpenAI，LLM 企业市场新格局
Menlo Ventures 报告显示，Anthropic 超越 OpenAI 成企业 LLM 市场新王者。代码生成成杀手级应用、强化学习成扩展路径、Agent 时代到来支撑其胜利。企业重性能，支出从训练转向推理。
半数清华，8位华人AI天团集体投奔Meta！奥特曼：砸钱抢人不如培养死忠
硅谷人才争夺战升级，Meta砸3亿美元疯狂挖角，众多核心研究员投奔。OpenAI则推进‘驻留计划’，培养跨界人才，成本低、能植入文化、忠诚度高，这场人才战影响AGI时代走向。
数学圈地震！o3靠直觉刷爆人类顶尖难题，14位专家集体破防
Epoch AI新研究发现，o3 - mini - high能破解顶尖数学难题，具备渊博学识且会基于直觉解题，但推理风格依赖直觉，缺乏严谨性和创造力，还存在投机取巧、幻觉等问题。
东方理工团队提出HiDrop：重构MLLM计算路径，压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。
时隔两月，Mistral AI终于上新Medium 3，近期还有「One more thing」
时隔两月，Mistral AI 推出 Mistral Medium 3，性能介于轻量级和大规模模型间，优于 GPT - 4o 等。未开源，可通过官网等使用，专为企业设计，成本低。还预告将推「大型」产品，同时推出企业聊天机器人 Le Chat Enterprise。
Token烧不起了？比肩Claude Opus 4.6免费模型来了，还将开源
昆仑万维旗下天工AI发布SkyClaw - v1.0，为Agent场景深度优化，免费试用后将开源，价格低。性能超同级别开源对手，逼近闭源巨头。训练围绕环境构建、数据合成、强化学习展开，适合长链路Agent工作流。
8.8K Star！真正的本地实时 Whisper 开源神器，彻底干翻云端 STT！
做实时语音转文字系统，上云端 API 贵且隐私难保障，本地跑 Whisper 延迟高。WhisperLiveKit 是专为本地流式语音识别优化的全栈方案，解决了 Whisper 痛点，有极速处理等功能，适用多类项目。
GLM-5.2真正的跨越：CritPt密闭物理数据集测试得分20.9%，打平Opus-4.8
GLM - 5.2在CritPt密闭物理数据集测试中表现亮眼，与Claude Opus 4.8得分并列，远超其他开源模型，还击败多款闭源模型，实现4.5倍代际飞跃，标志开源模型科学推理能力进步。
全员本科生！何恺明组新作：文生图，258M参数就够了
何恺明携本科生团队推出文生图模型MiniT2I，基于MM - JiT架构，仅用258M参数实现不错效果，训练成本低。该架构删繁就简，去掉VAE和AdaLN等模块，性能提升，展现出与工业级模型的竞争力。
Anthropic宣布练出神话级模型：Claude Mythos，代码和黑客能力吊打opus4.6，不向公众开放！
Anthropic宣布Project Glasswing计划，因训练出超强模型Claude Mythos Preview。该模型代码和推理能力超opus 4.6，扫描主流软件发现数千零日漏洞。此模型不向公众开放，计划先在Claude Opus验证安全机制。