「性能成本平衡」共找到 3412 篇相关文章
X上63万人围观的Traning-Free GRPO：把GRPO搬进上下文空间学习
年初 DeepSeek - R1带火大模型强化学习，GRPO成常见RL算法，但训练成本高。腾讯优图论文提出Training - Free GRPO，将GRPO训练范式迁移到上下文学习，成本低、泛化好，已开源。
BigQuery 新功能：SQL 直调 17 万 + AI 模型，3800 万行数据处理成本仅 2 美元
Google为BigQuery推出面向开源模型的第三方生成式AI推理功能，允许数据团队用SQL语句部署运行Hugging Face或Vertex AI Model Garden的模型，消除对独立ML基础设施的需求，解决数据团队痛点。
数据集蒸馏，连发两篇顶会！10%样本实现全量性能，鲁棒不失真
数据集蒸馏能让模型高效节能，WMDD和GUARD两项研究分别解决保留原始数据特性、提升模型对抗扰动能力问题。WMDD用Wasserstein度量保留几何特性，GUARD平滑损失景观获对抗鲁棒性。
苹果春季新品奔着龙虾来了！AI性能暴涨8倍，8499元起
苹果发布MacBook Pro M5系列、MacBook Air M5笔记本，8499元起，还更新了显示器。新款MacBook Pro搭载M5 Pro和M5 Max芯片，AI性能大幅提升，提示词处理速度快4倍，图像生成速度快8倍，存储、续航等方面也有优化。
一个程序员失业了：他用AI重构了整个公司，结果杀疯了！
The Agency是拥有50+专业AI代理的开源项目，能让个人和小团队零人力成本获公司职能，相比传统雇佣，运营成本降99%。它有各部门专业代理，支持多工具集成，应用场景广，使用方法简单。
深入剖析AI公司正在面临的：「囚徒困境」
文章指出AI模型训练成本虽下降，但运营成本尤其是推理费用飙升，使AI公司陷入两难。用户只青睐最强模型，且模型资源消耗远超预期，订阅模式难以为继，还给出了避免亏损的三条出路。
谷歌TPU杀疯了，产能暴涨120%、性能4倍吊打，英伟达还坐得稳吗？
摩根士丹利研报显示，谷歌TPU产能将爆炸式增长，供应不确定性基本解决。TPU性价比高，在推理领域优势明显，或终结英伟达垄断。文章还给出TPU与英伟达GPU的选择建议及不同利益相关者的应对策略。
用短视频成本生成长视频，字节Seed新注意力机制让计算量降低85%
字节Seed与斯坦福等机构推出新模型，其新注意力机制MoC能让长视频生成计算量降低85%，质量不减且保持连贯性。团队将视频生成定义为上下文检索任务，提出MoC机制并阐述实现方法。
本地运行OpenAI Whisper语音识别模型，Unity3d环境下高性能离线转写解决方案
这是为whisper.cpp提供的Unity3D绑定库，能在本地设备高性能运行OpenAI Whisper自动语音识别模型推理。支持多语言识别与翻译，有不同大小模型，可本地运行，还介绍了使用方法。
CuteDSL-1: Introduction
文章介绍CuteDSL，它因Cutlass编译慢、调试难等痛点而生，可在Python构建DSL，编译快、调试易且性能无损。文中阐述其架构、使用方法、与PyTorch集成优势等，还提及基于CuTe的开发及性能对比。