「低成本训练」共找到 3843 篇相关文章
推翻「预测下一个token」范式！微信AI新研究：把token压缩成连续向量更具性价比
微信AI和清华团队提出新范式CALM，把token打包成连续向量，让大模型从预测下一个token转变为预测下一个向量。实验表明它能减少生成步骤，在平衡性能和计算成本时性价比更高。
唯快不破：上海AI Lab 82页综述带你感受LLM高效架构的魅力
大语言模型性能提升但成本高，制约落地应用。上海AI Lab联合多家机构总结440余篇论文，形成82页综述，将LLM高效架构分为7类，探讨最新进展，还涉及线性化技术、硬件实现等内容。
二十年老牌 IDE 栽在 AI 上！JetBrains 被差评逼疯批量删除评论，用户怒打更多1星抗议
JetBrains 2023 年 12 月发布的 AI 助手插件下载超 2200 万次，但评分仅 2.3 分。该公司批量删负面评论引用户不满，其还存在安装难移除、体验差等问题。虽推出免费套餐和 Junie 智能体，仍面临成本和竞争压力。
月之暗面硬刚Anthropic！开源万亿参数Kimi K2，Agent编码性能直逼闭源最强！
上周五月之暗面发布并开源万亿参数Kimi K2，外网评价高。它或开启开源AI的“Agentic时代”，在智能体和编码基准上表现出色，成本远低于竞品，但推理速度较慢，已可平替Claude。
英伟达护城河被AI攻破，字节清华CUDA Agent，让人人能搓CUDA内核
近日，字节跳动Seed团队和清华AIR的CUDA Agent引发轰动。它能编写经优化的CUDA内核，性能超torch.compile等。研究发布CUDA - Agent - Ops - 6K数据集，介绍系统管线设计、训练流程，实验结果佳，但有未对比复杂编译器等局限。
TACO: 让 CLI Agent 在自主迭代中学会丢掉无用上下文
由多校及研究团队联合提出 TACO，这是无需训练、即插即用的终端智能体自进化观测压缩框架。它能让智能体学习压缩规则，过滤低价值输出，保留关键线索，实验显示其提升了任务成功率和 token 效率。
马斯克猛猛带货太空数据中心！“能耗比地球香太多”
太空成AI基建新必争之地，马斯克力推太空数据中心，称其能耗比地球低。他认为AI天花板是能源问题，太空能解决能源与散热难题。美初创企业已做太空实验，国内也布局相关建设。
模型大一统？1100多个模型殊途同归，指向一个「通用子空间」！
约翰斯・霍普金斯大学研究发现，1100多个不同神经网络，即便训练条件不同，最终权重会收敛到共享低维子空间。此研究为神经网络参数空间“通用性”提供严谨实证，虽成因待探索，但意义深远。
OpenAI算力账单曝光：70亿美元支出，大部分钱花在了“看不见的实验”
据Epoch AI统计，去年OpenAI计算资源支出70亿美元，多以租微软云算力支付。其中50亿研发算力，大多用于幕后研究和实验，非爆款模型的最终训练，也解释了其2024年亏损原因。
DeepSeek睁开眼了！Opus-4.8的性能，1000张图不到20美分
DeepSeek首个多模态视觉模型deepseek-v4-flash-vision-exp上线DeepSeek API平台。文本能力与V4-Flash持平，多模态Agent能力逼近Opus-4.8，分析1000张图成本不到20美分，还上线免费Files API。