「性能成本平衡」共找到 3298 篇相关文章
TileLang深入详解-第一章-GPU 体系结构复习
作者借长假学习 TileLang 并撰写此文，先复习 GPU 体系结构，包括计算与线程组织、存储层次、专用指令单元，接着介绍核心性能模型与优化原理，最后给出基于 TileLang 的基准测试实践。
AI编程里程碑！谷歌AI自己写代码惊呆工程师，GPU内核算法反超人类21%
谷歌AlphaEvolve的开源实现OpenEvolve自学写代码，在苹果芯片上进化出比人类快21%的GPU核函数。它自主发现多项优化策略，经多维度测试，性能显著提升，开启「AI为AI编程」新时代。
别再卷数据了，LLM也怕「过劳死」！CMU等揭秘灾难性过度训练
CMU、斯坦福等四大名校研究团队挑战“预训练规模越大越好”观点，提出“灾难性过度训练”现象，即增加预训练数据可能导致后训练性能下降，并从现实证据、控制实验、理论分析等方面阐述新研究贡献，还介绍了相关实验及结论。
DeepSeek-R2尚未问世，微软小模型捡漏称王？6000样本炼出「数学作弊器」！
微软推出Phi-4推理模型系列，参数最多14B，能在本地高性能笔记本电脑上流畅运行。Phi-4-mini-reasoning在数学推理上性能超越DeepSeek-R1蒸馏模型，且参数规模更小。文章还介绍了模型特点、训练方法、性能表现及局限性等。
SGLang × RoleBasedGroup（RBG）：打通大模型推理PD分离架构规模化落地的“最后一公里”
PD分离架构对大模型推理部署意义重大，SGLang支持该架构且性能佳。但从测试到生产落地难，存在部署、资源、可靠性等问题。SGLang开源RBG项目，结合二者为PD分离架构生产化落地提供方案。
刚刚，美国AI霸主换了！Anthropic年收300亿，碾压OpenAI
外媒披露Anthropic年化营收达300亿美元，超越OpenAI的240亿。Anthropic由OpenAI前员工创立，15个月营收翻30倍，训练成本仅为对手四分之一。其80%收入来自企业端，而OpenAI陷入‘增收不增利’怪圈，内部也矛盾重重。
The Batch: 949 | 人形机器人进入工厂车间
少量人形机器人已进入工业场景，成本接近人力成本。Agility Robotics向Schaeffler提供Digit机器人，负责搬运箱子。目前工业人形机器人应用有限，多处于试点，预计到2040年数量将大增。
1000 行 Java 代码手搓 OpenAI gpt-oss 推理引擎
2025年8月OpenAI发布gpt - oss，作者受相关项目启发，用约1000行Java代码实现gpt - oss推理引擎并发布在亚马逊官方github。文章分享开发体会，介绍模型架构、Java实现、性能优化等内容。
智谱GLM-5强调的Agentic Engineering能力是什么？｜甲子光年
智谱上线并开源GLM - 5，在Coding与Agent能力上达开源SOTA，刺激股价上涨。它验证了Agentic Engineering可行性，提升能力阈值，但成本阈值也更显性，未来软件工程或分层发展。
GAIR Paper 106｜追踪视觉 Token 的演化轨迹，实现无损压缩与 60% 推理加速｜CVPR 2026
近年来大视觉语言模型虽推动多模态智能发展，但推理成本高昂。山东大学和MBZUAI团队提出TransPrune，从演化视角衡量视觉Token重要性，保持性能无损同时降低60%推理成本。