「算力提升」共找到 3584 篇相关文章
SGLang × RoleBasedGroup（RBG）：打通大模型推理PD分离架构规模化落地的“最后一公里”
PD分离架构对大模型推理部署意义重大，SGLang支持该架构且性能佳。但从测试到生产落地难，存在部署、资源、可靠性等问题。SGLang开源RBG项目，结合二者为PD分离架构生产化落地提供方案。
一年没用Perplexity，AI搜索进化惊呆我了丨TIP 005
Perplexity Lab推出后，AI搜索实现技术成熟度拐点。作者体验其新出的Perplexity Lab，发现它进化很大，如答案数据可视化、回答可交互等，虽有亏损且价格贵，但仍是实用的AI搜索。
极低成本，复现GPT-4o图像风格化一致性！NUS推出OmniConsistency
NUS ShowLab 推出 OmniConsistency，解决开源扩散模型在图像风格化一致性上与商业 API 的差距。它成本低，能在保持风格化效果时精准保留图像细节等，还解决了风格化与一致性的跷跷板问题，且兼容性强。
英伟达再破世界纪录，每秒1000 token！刚刚，全球最快Llama 4诞生
英伟达用Blackwell创下AI推理新纪录，单节点8颗GPU实现Llama 4 Maverick模型每秒单用户生成1000个token。这得益于技术组合拳，如用TensorRT - LLM优化、应用FP8格式等，满足了低延迟需求。
NVIDIA 李柏依：机器人只会「看」还不够，它还得学会「听」| ECCV 2026
本文整理了NVIDIA Research科学家李柏依在ECCV 2026 Workshop的分享，针对机器人训练数据采集壁垒高的问题，介绍了两项解决多模态感知与灵巧操作数据难题的前沿研究。
Codex「额度黑洞」终于查清！真凶竟是这个小功能
折腾一周，Codex「额度消耗过快」悬案告破。OpenAI Codex负责人Tibo Sottiaux认了三处Bug，如自动给对话起名字小功能额度消耗远超预期。官方还对所有付费订阅做完整额度重置。
翁荔最新博客：我们可能高估了模型，却严重低估了那层“脚手架”
前OpenAI安全研究副总裁翁荔在新博客聚焦AI领域Harness Engineering。她认为Harness是决定模型在现实任务中走多稳、多远的‘脚手架’，并梳理其演进路线，也指出研究面临评估、安全等瓶颈。
NVIDIA团队让编程Agent接管真实机器人实验，成功率达99%
NVIDIA GEAR 实验室负责人介绍 ENPIRE 项目，首次在机器人硬件实现自动化研究。让 8 个 Codex Agent 驱动闭环，完成高精度任务，成功率 99%。项目计划开源，还提出 MRU 与 MTU 指标。
Lyft 使用 AI 和人机协同扩展了全球范围内的本地化能力
Lyft 实现 AI 驱动的本地化系统，加速应用与网页内容翻译。新系统结合大语言模型、自动评估与人工审核，将翻译周期从数天缩至分钟级，兼顾质量与适配性，还分批量和实时翻译架构处理不同场景。
东方理工团队提出HiDrop：重构MLLM计算路径，压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。