「低精度训练」共找到 3113 篇相关文章
妈妈再也不用担心延迟了！斯坦福手搓Llama超级内核，推理仅需0.00068秒
斯坦福Hazy实验室推出低延迟推理引擎「Megakernel」，将Llama - 1B前向传播融入单一GPU内核，H100上提速1.5倍，B200上每次推理仅0.00068秒，比vLLM快3.5倍。文章分析传统引擎问题并介绍Megakernel设计。
AI开始替人类调用AI！token用量已是人类5.2倍
据OpenRouter统计，截至8月10日，Agent类token用量半年涨14倍，人类仅2.8倍。差距源于用法差异，虽智能体部分token计价低，但用量大仍烧钱。省钱关键在配套，且智能体任务验收缺人手。
大模型一年内就会吞噬 Harness！Google AI Studio负责人：深耕垂直领域才是创业公司唯一生路
Google AI Studio负责人Logan认为，大模型一年内将吞噬Harness，90%的Agent中间件公司最多存活12个月。创业公司应深耕垂直领域，Google用Anti - Gravity平台串联产品，推动智能体发展，且模型后训练潜力巨大。
清华、西交联合开源发布了Cheers : 一条更简洁、更高效的统一多模态路线
清华、西交联合开源发布CHEERS，提出面向统一多模态理解与生成的架构路线，在保持系统简洁前提下，统一理解与生成任务，继承开源预训练模型知识，在多项基准测试中表现优异，还实现4× token压缩。
马斯克的「移动客厅」又火了：20人座无方向盘，每公里才3毛钱
前段时间旧金山大停电，Waymo无人驾驶出租车趴窝，特斯拉汽车不受影响。网友翻出特斯拉Robovan视频，马斯克称其将改变街道面貌。该车20人座无方向盘，运营成本低，预计2027年量产，此外马斯克身价破7000亿美元。
100 页 Agentic RL 综述！牛津、新国立、AI Lab 等联合定义 LLM 下半场
2025 年大语言模型热潮持续，但当前主流训练范式显瓶颈。牛津、新国立等 16 家机构学者发布 100 页 Agentic RL 综述，明确定义从‘会说’到‘会做’进化路径，剖析理论、结构与实践，展望未来挑战。
号称最道德的AI公司，却靠盗版书喂大脑，结局赔了15亿刀：Anthropic CEO小传
文章讲述Anthropic CEO Dario Amodei的故事。他曾因担忧GPT-2风险离开OpenAI创立Anthropic，获有效利他主义者资助。Claude研发慢错过市场，后求立法监管对手，还因用盗版书训练模型被告，赔15亿刀。
NextStep-1：一次在图像生成上自回归范式的探索
阶跃星辰团队探索自回归图像生成新路径，推出 NextStep-1。它直接在连续视觉空间自回归生成，架构简洁，实现端到端训练。模型有高保真生成和编辑能力，Benchmark 表现佳，但也面临稳定性等挑战。
GLM4.5之后，智谱又开源GLM-4.5V，实测下来视觉推理能力贼强~
智谱继GLM4.5后又开源GLM - 4.5V，它是同级别开源SOTA视觉推理模型，在多模态理解榜单表现优异。文章实测其在科研全生命周期的应用，还介绍了模型架构设计和训练策略。
微调重要表征以增强思维链的推理能力
团队提出关键表征微调（CRFT）方法，通过信息流分析识别和优化关键表征。在八个数学和常识推理基准及两个模型系列验证其有效性，能提高推理准确率，学习参数量低，还适应少样本场景。