「低延迟推理」共找到 2941 篇相关文章
腾讯开源智能体构建框架
腾讯开源智能体构建框架 Youtu-Agent，灵活高性能，验证性能出色，开源友好成本低。有自动智能体生成等亮点，适用于不同用户群体，涵盖研究、开发等场景，还介绍核心概念，附项目地址。
Transformer终结者！谷歌DeepMind全新MoR架构问世，新一代魔王来了
KAIST、谷歌DeepMind等机构发布的MoR架构，推理速度翻倍、内存减半，重塑LLM性能边界，碾压传统Transformer。它融合参数共享与按需计算，有路由和KV缓存策略，实验显示其性能优越、可扩展性好。
陶哲轩转发！DeepMind开源「AI数学证明标准习题集」
DeepMind开源形式化数学猜想库，收录经典数学猜想，还提供代码函数方便形式化表述。此库可作测试基准提升AI数学推理能力，是AI+ATP范式关键前置步骤，团队邀更多人参与丰富内容。
Claude和GPT思维链竟被两步蒸馏！116页论文曝光API致命漏洞
2026年AI蒸馏成悬案，一篇116页论文砸穿巨头「黑盒」。研究人员用低价小模型恢复Claude、GPT和Gemini原始推理，还发现API漏洞存在跨会话、用户和模型互通情况，收集公开轨迹泄露诸多敏感信息。
当 GPU 成为主角：解锁 AI 集群中那 85% 的闲置 CPU 算力
全球AI算力规模增长，GPU成主角，但GPU满负荷运转时CPU利用率低，传统调度机制无法保障优先级，造成资源浪费。TencentOS如意（RUE）的在离线混部技术改造Linux内核调度体系，高效释放算力。
DeepSeek-V3.1 发布，官方划重点：Agent、Agent、Agent！
2025年8月21日，DeepSeek V3.1正式发布。它采用混合推理架构，支持双模式，网页端、App、API均升级，上下文拓展至128K。其智能体能力增强，思考与输出效率提升，还具备API新特性，模型已开源，价格也将调整。
真可用！美团数字人模型开源，MV、电商等统统拿下
美团开源数字人视频生成框架 LongCat - Video - Avatar 1.5 版本，换音频编码器、加速推理，支持多任务与多场景。经770人评测，它在多维度领先对手，各方面表现均衡，效率与质量兼得。
马斯克说到做到：开源X平台核心推荐算法
X（原Twitter）开源内容推荐Feed on X召回、精排推理、策略代码，模型参数配置较小，应是简化Demo版。召回用双塔模型，精排用双层Transformer，还介绍了系统架构、模型细节等。
谷歌与OpenAI同获ICPC 2025金牌！GPT-5满分夺冠，Gemini攻破人类队伍都没解出的难题
ICPC是计算机程序设计领域的“奥林匹克”。今年GPT - 5满分、Gemini 2.5 Deep Think解10题，达金牌水准，超越人类强队，标志AI在算法竞赛“超车”，证明其具备临场推理等能力。
陶哲轩都惊了！o3首战「AI奥数」碾压夺冠，开源军团仅差5分狂追OpenAI
AI界奥数杯重启，OpenAI o3首参赛，算力拉满时以47分夺冠。测评显示在奥数数学推理上，商用和开源AI差距缩小，开源即将追上商用模型。报告完整测试结果已放出。