「推理加速」共找到 2538 篇相关文章
12ms！一个仅8M的语音停顿检测模型
语音助手准确判断用户是否说完是挑战，Smart Turn将决策过程缩至12毫秒。其v3.1版有改进，新增数据集提升英语识别准确率，推出未量化版本推理更快，8MB模型性能优，已在HuggingFace开源。
刚刚，智谱开源了他们的最强多模态模型，GLM-4.5v。
智谱接连开源GLM - 4.5和GLM - 4.5V，后者为多模态模型，总参数106B，在42个评测基准中41个达到SOTA。经测试，它视觉推理强、速度快，还有视频理解等功能，API定价良心，体现持续开放精神。
全网开测GPT-oss！技术架构也扒明白了
全网开测GPT-oss，它登顶开源模型王座，性能比肩o3-mini、o4-mini，适合本地推理。网友探索出多种用法，还推出Pro版。其架构也被扒出，官方介绍了微调方法，吴恩达等大佬也参与测评。
GPT-5将揭示人类的"创造力"其实就是模式识别？
有传言GPT - 5将发布，X上一博主称其或揭示人类‘创造力’是模式识别，引发热议。有人认为创意是碎片重组，也有人坚持创造力不只是模式识别，还需推理等，AI完美识别模式反被困住。
GPT-5被意外泄露，奥特曼宣布即将发布！
一则GPT - 5被意外泄露的消息引发关注，SecureBio的github配置文件中出现相关内容，暗示要把‘推理’提升到新高度。OpenAI CEO等暗示GPT - 5即将发布，但不打算短期内推出有IMO金牌级别数学能力的正式产品。
大模型玩不好数独？！Transformer作者初创公司公布排行榜：o3 Mini High“变异数独”正确率仅2.9%
Transformer作者初创公司Sakana AI公布AI解决数独能力排行榜，用全新基准Sudoku - Bench考验大模型创造性推理能力。结果显示大模型总体正确率仅15%，9×9数独中高性能模型o3 Mini High正确率2.9%。
「神经软件」正在到来，人类代码将失去意义！
Lambda Labs CEO Stephen Balaban 在英伟达 GTC 2025 提出神经软件概念，指不再写代码，让大语言模型成软件。它没传统软件的 bug 问题，未来计算机或端到端神经化，虽有争议，但变革在加速。
能识图、看视频，也能理解软件界面：蚂蚁百灵开源Ling-3.0-flash-VL
本文介绍蚂蚁百灵开源的多模态大模型Ling-3.0-flash-VL，该模型采用稀疏混合专家架构，支持图片、视频、软件界面理解，可将视觉信息用于推理与任务执行，开放权重采用MIT许可证供开发者部署测试。
阶跃开源JetSpec，大模型推测解码提速近10倍
随着Agent应用爆发，大模型推理效率成AI行业焦点。阶跃星辰联合多校团队开源JetSpec，该框架面向推测解码，在H100上把MATH - 500解码速度提升到9.64倍，突破了推测解码的扩展天花板。
亲手造出砸自己饭碗的怪兽！Anthropic联创：我们手下的顶级研究员正陷入失业恐慌
Anthropic联合创始人Jack Clark称，公司顶级研究员虽年薪百万，却因加速制造砸自己饭碗的“怪兽”而焦虑。大模型或使社会财富飙升但大量人失业，预计2028年底人类将从AI迭代链条“下岗”。