「成本性能」共找到 6987 篇相关文章
FlashInfer集成TensorRT-LLM cubin kernel技术分析
文章以MoE模块为例，分析FlashInfer集成TensorRT-LLM的技术。探讨如何不依赖源码用其优化内核、动态加载管理CUBIN文件，介绍集成架构、源码集成技术、CUBIN动态加载系统等内容。
一年破千万美金，一款海外AI创意引擎爆发了
一款名为Creati的AI创意引擎发布仅1年，就有千万用户规模，实现千万美金年收入。它另辟蹊径专注创意定制和优化，创始人Ella Zhang认为创意是广告的核心，还在秘密开发创意Agent。
ChatGPT智能体正式发布，多个创业赛道昨夜无眠
OpenAI正式发布ChatGPT Agent，将思考与执行能力统一，可接管电脑，能处理工作和生活多种事务。它优化后能力达SOTA，但也有风险。这或重塑互联网，让Agent创业者重新审视竞争力。
广义智能体理论：智能时代通向「万物理论」的新路径？
源自AI的「广义智能体理论」为探索「万物理论」提供新视角。它将物理、生命、AI系统纳入标准智能体框架，提出四大基本作用力或源于「智能场」，还为经典、相对、量子力学差异提供新诠释。
简单了解下CUDA Green Context
文章基于Flashinfer实现介绍CUDA Green Context，它在CUDA 12.0+引入，能实现资源隔离、降低多线程性能损失、提高GPU使用率。还给出使用方法及代码示例，不过测试性能未达预期，需关注后续发展。
黄仁勋：每天都在用AI，提示工程可以提高认知水平
黄仁勋在CNN访谈称每天用AI，认为提示工程是高级认知技能，AI会重塑工作非消灭岗位，还提及中国市场重要性，宣布H20获批入华、将发新显卡RTX Pro，不过其他专家看法不一。
突发！Jason wei也被小扎挖走了
Jason wei是OpenAI研究科学家，是思维链、强化学习研究重要推动者，2023年2月加入OpenAI，此前在谷歌大脑工作。他和HYUNG Won Chung一同被小扎挖走，二人是o系列模型及测试时间计算重要推动者。
Kimi K2发布两天即“封神”？80%成本优势追平Claude 4、打趴“全球最强AI”，架构与DeepSeek相似！
国内独角兽月之暗面发布并开源 Kimi K2 模型，推出两天就在 OpenRouter 平台 token 使用量超 xAI 的 Grok 4。它成本低、性能强，编码能力追平 Claude 4，架构与 DeepSeek 相似，技术研究也多次‘撞车’。
用动作分块突破RL极限，伯克利引入模仿学习，超越离线/在线SOTA
如今强化学习在多领域成果显著，但在长跨度、稀疏奖励任务中表现欠佳。加州大学伯克利分校研究者提出Q - chunking方法，将动作分块引入基于时序差分的强化学习，解决探索效率和值传播问题，实验表现优异。
月之暗面硬刚Anthropic！开源万亿参数Kimi K2，Agent编码性能直逼闭源最强！
上周五月之暗面发布并开源万亿参数Kimi K2，外网评价高。它或开启开源AI的“Agentic时代”，在智能体和编码基准上表现出色，成本远低于竞品，但推理速度较慢，已可平替Claude。