「推理性能」共找到 3470 篇相关文章
Nano banana手办玩法火爆出圈！无需抽卡，效果惊了(°o°)
小某书被AI手办图刷屏，原来是谷歌的nano - banana（Gemini 2.5 Flash Image）模型爆火。文章实测其手办玩法，还介绍多种玩法，团队透露以文本渲染评估、原生多模态等核心技术，谷歌未来想整合模态实现AGI，还将举办黑客松。
Physical Intelligence 核心技术团队分享：物理世界的“Vibe Coding”如何实现？
Physical Intelligence 核心技术团队解读机器人技术路径，分享前沿探索。介绍 VLA 与 VLM、LLM 关系，还提及 PI 构建数据管线、提出“知识绝缘”机制，分析开放世界部署难题，展望未来“机器人模型即服务”。
一文读懂：GPU到底是怎么工作的？
文章详细介绍GPU工作原理，对比其与CPU差异。指出GPU擅并行计算、能解决复杂问题，还分析FLOPS、延迟、内存等因素对性能的影响，最后讲了GPU通过多线程和超量订阅获高吞吐量。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程，指出padding分max和sum模式，旧版sum padding浪费计算、影响cuda graph使用，v0.4.10后有优化，max padding仍待完善。
WRC整理床铺机器人背后模型曝光！端到端双系统全身智能VLA，仅凭少量微调就能get任务
星海图在2025WRC展示G0模型，可让机器人自主完成铺床任务。其发布端到端双系统全身智能VLA模型G0，结合真机数据集与架构，还构建开放数据集，评测结果优于π0模型，即将开源。
狂涨26.5K star！一个接口搞定20+AI大模型，开箱即用，太香了！
文章介绍开源项目One API，它是LLM API管理与分发系统，能统一管理主流AI模型，用一个接口搞定调用。有友好界面和可视化操作，在Github获26.5K star，还介绍其性能特色、安装使用方法。
实测GPT-5：写作坠入谷底，编程一骑绝尘。
GPT-5发布，它是统一系统，含多种模型。性能上减少事实幻觉、应对谄媚有进展，跑分强且节能，但无新功能特性。写作不如GPT 4.5，编程表现出色，发布后OpenAI与Google预测交叉跳水。
长上下文不再难：KV Cache 全生命周期优化实战
长上下文大语言模型发展带来计算和内存挑战，现有基准测试多忽视 KV 缓存完整生命周期。微软姜慧强在 AICon2025 分享 SCBench 工具，梳理推理优化方法，介绍 MInference 等，还提出 Tri - shape 方法等成果。
基于聊天的 AI 编程高效实践
本文探讨 Agent 对软件开发和开发者工作流的影响，以 GitHub Copilot“Agent 模式”构建维基搜索应用为例，对比不同 LLM 模型性能，指出要发挥 Agent 效能，可采用人机协作流程，经验是掌控其成果的关键。