搜索：推理加速技术

「推理加速技术」共找到 4904 篇相关文章

速递｜前字节Seed强化学习专家孙鹏加入星尘智能，将大模型后训练经验带到物理世界

9月2日消息，前字节跳动Seed团队强化学习专家孙鹏博士加入星尘智能，负责机器人强化学习方向。星尘智能有技术、资本和商业优势，孙鹏经验丰富，此次加入将助力其强化学习后训练发展。

网友发现把Fable 5上下文转成图片，让模型通过OCR读取，token输入成本最多省70%。方法pxpipe在GitHub获3000+STAR，本质是本地代理，还引出谷歌老论文及DeepSeek - OCR相关技术。

英伟达推出全球首个开源量子AI模型家族NVIDIA Ising，含校准和纠错模型。它简化对复杂物理系统的理解，为量子纠错和校准提供高性能工具，有望加速量子系统实用化。

AI2开源Open Coding Agents，以最低数百美元算力成本，能训练贴合私有代码库的专属编程智能体。SERA-32B表现惊艳，其软验证生成技术降低成本，新代码易部署且兼容Claude Code。

Soul App 新开源实时数字人项目 SoulX-LiveAct，解决 AR 扩散模型流式生成稳定性问题。它实现 20 FPS 实时流式推理，延迟 0.94 秒，支持无限时长，有恒定显存等亮点，可用于多场景。

X（原Twitter）开源内容推荐Feed on X召回、精排推理、策略代码，模型参数配置较小，应是简化Demo版。召回用双塔模型，精排用双层Transformer，还介绍了系统架构、模型细节等。

北航、阿里等机构联合发布论文，系统梳理 2021 - 2025 年代码大模型发展。介绍代码基座模型、评测任务、对齐技术等，还提及软件工程智能体、安全防御及训练指南，预言未来编程走向。

人形机器人被视作“下一个万亿终端”，但2025年赛道先传来倒闭声，如K - Scale Labs烧光融资关门。融资收紧、供应链缺位，技术、成本、场景等难题待解，不过人形机器人未来在多场景有潜力。

视频编码中双向编码潜力待挖掘，快手音视频技术团队提出BRHVC方法，解决长跨度帧运动处理和参考贡献不平衡问题，其成果被NeurIPS 2025录用，在压缩性能上超越VTM - RA编码。

ICPC是计算机程序设计领域的“奥林匹克”。今年GPT - 5满分、Gemini 2.5 Deep Think解10题，达金牌水准，超越人类强队，标志AI在算法竞赛“超车”，证明其具备临场推理等能力。