「推理服务基础设施」共找到 2938 篇相关文章
DeepSeek深夜炸场，开源了一个新项目&论文，V4打前站？
凌晨，DeepSeek开源新项目Engram并公开论文。Engram用可扩展的O(1) N - gram记忆替Transformer早期层节省算力，在多方面实验表现出色，如推理任务增幅大于知识任务，还分析了其机理和系统效率。
OpenAI惊人自曝：GPT-5真「降智」了！但重现「神之一手」，剑指代码王座
GPT-5发布后引发热议，其IQ测试成绩不佳遭吐槽，但实际是「路由」问题。解锁神级GPT-5关键在prompt，医学家借它重现「神之一手」。它编程能力强，挑战Anthropic，还推动AI向「智能体式推理」发展。
智能体时代EDA工具革新，比昂芯科技专注AI驱动电路仿真及Chiplets设计
近期，AI+芯片设计生成成全球资本热门赛道。比昂芯科技早在2024年就启动AI在EDA领域的底层技术探索，形成AI原生EDA完整技术闭环。其研发总监吴晨博士在IDAS 2026分享实践，公司还有四大核心产品及服务。
刚刚，Anthropic发布Sonnet 5，性能接近Opus 4.8，但不一定更便宜
Anthropic发布Claude Sonnet 5，称其为最具Agent属性的Sonnet模型。它在推理等方面性能提升，接近Opus 4.8且价格低。安全评估有改善，但网络安全逊于Opus 4.8。已正式可用，有优惠首发价。
阿里发布新一代千问旗舰模型Qwen3.7-Max，登顶最佳国产模型
5月20日，阿里发布新一代千问旗舰模型Qwen3.7 - Max。近三月千问迭代三次，Qwen3.7 - Max在多测评中表现优异，位列国产模型第一。它强化编程等能力，阿里还通过MaaS等连接各环节，布局AI基础设施。
让智能“落地”的芯片，今年都去了MWC
2026年世界移动通信大会（MWC）以‘The IQ Era（智能时代）’为主题，全球2400多家企业参展，其中350家来自中国。中国企业展现了从芯片到终端的体系化竞争力，在网络、终端、基础设施、模组等方面均有进展。
又上Trending，这个项目赋予AI灵性，可以和你一起玩游戏看电视！
项目 AIRI 可让用户轻松拥有数字生命。与其他项目不同，它支持多种 Web 技术，能在现代浏览器和设备运行，还能玩游戏、看视频。目前已完成部分基础功能，支持众多 LLM API 服务，还衍生出多个子项目。
Yann LeCun放出憋了20年的大招：Meta开源V-JEPA 2世界模型
Meta发布V-JEPA 2世界模型，参数高达10亿，推理速度比英伟达Cosmos快30倍。它基于Vision Transformer架构，是Yann LeCun倡导多年的JEPA路线成果，仅需62小时机器人数据训练就能执行任务，打脸质疑者。
对话蚂蚁吴伟：训推一体池化调度，如何把GPU用到极限
AICon大会前，与蚂蚁集团吴伟深度对话，探讨GPU资源调度解法。他指出CPU和GPU有结构性差异，只在推理或训练内优化有资源闲置，国产卡缺全链路生态，软件优化有天花板。还分享架构思路、算法及落地效果等。
一夜之间，AI终获「永久记忆」！最难考试99%刷爆SOTA，全网直呼疯狂
新智元报道，Supermemory团队推出超级记忆系统ASMR，在AI记忆界最难考试LongMemEval中刷到99%准确率。它抛弃传统模式，采用多Agent并行推理，4月初将开源代码。此外，其背后的Supermemory引擎功能强大，能让AI真正拥有记忆。