「能效提升」共找到 2944 篇相关文章
斯坦福大模型推理课免费了，谷歌推理团队创始人主讲
谷歌DeepMind推理负责人Denny Zhou在斯坦福大学CS25讲“LLM推理”课。大模型推理是给出答案前的中间思考步骤，能让复杂问题可解、提升答案准确性。还介绍了让模型输出推理答案的方法及提升推理能力要点。
顶模 Fable 5.1发布，到底强了多少？
昨晚，Anthropic发布Fable 5.1和Mythos 5.1，这代沿用Fable 5参数，性能提升聚焦长任务，还降低缓存读取价。它在游戏、视频等多个领域表现出色，与同类模型对比进步明显，虽价格贵，但能力、速度有提升。
突发！OpenAI推出首款自研AI芯片：能效暴打当前SOTA，今年底G瓦级部署
OpenAI和博通联合发布自研AI推理芯片Jalapeño，它专为大模型推理设计，每瓦性能优于当前最先进水平，九个月完成设计制造，是全栈战略一部分，2026年底开始吉瓦级部署。
NVIDIA港大MIT联合推出Fast-dLLM v2：端到端吞吐量提升2.5倍
自回归大语言模型推理效率受限，Fast - dLLM v2 由 NVIDIA、港大、MIT 联合推出。它将预训练 AR 模型适配为能并行解码的 Block - dLLM，用约 1B tokens 微调，端到端吞吐量最高提升 2.5 倍，精度相当。
0.3B参数，600MB内存！腾讯混元实现产业级2Bit量化，端侧模型小如手机App
腾讯混元团队推出面向消费级硬件的“极小”模型HY-1.8B-2Bit，参数量仅0.3B，内存占用600MB。它基于产业级2Bit端侧量化方案，生成速度提升，还通过多种方法提升能力，未来将探索新技术缩小与全精度模型差距。
GUI定位还在玩「非黑即白」？浙大团队提出GUI-G²，显著提升GUI智能体定位性能
在人工智能领域，GUI 智能体成技术风口，但现有 GUI Grounding 方法有缺陷。浙大团队提出 GUI - G²，将 GUI 交互转变为连续空间建模，在三个主流 GUI 定位基准测试中表现亮眼，重新定义了 GUI 交互本质。
全新预训练数据筛选方案，让数据效率提升10倍！配置仅需fastText评分器｜港科大vivo出品
香港科技大学和vivo AI Lab提出轻量级高效数据选择方法PreSelect，已被ICML 2025接收。它只需训练部署基于fastText的评分器，减少10倍计算需求，在多数据集实验中效果显著优于其他方法。
对谈 Chai-2 核心科学家乔卓然：抗体生成成功率提升百倍，分子生成平台是药物研发的 GPU｜Best Minds
文章访谈 Chai Discovery 创始科学家乔卓然，探讨 Chai-2 设计理念与行业意义。Chai-2 能零样本生成活性抗体，成功率提升百倍，将开发周期从数月缩至两周。未来分子生成平台或成药物研发的 GPU，合成数据将成“第三模态”。
训练效率提升25%、成本降23%！上海期智研究院、算秩未来联合推出MegatronApp：专为万亿参数大模型训练打造的系统工具包
上海期智研究院联合算秩未来在WAIC 2025大会发布开源项目MegatronApp，它是国内首个围绕Megatron - LM的增强工具链。经实际数据，其在该框架下训练效率提25%、成本降23%，含四大模块解决训练难题。
“算力守护者”走向台前
智算中心面临功耗上升挑战，电源管理需求凸显。它从交流供电向直流架构升级，对电源管理产品在能效、功率密度和可靠性上有新要求。相关芯片厂商积极创新，推出多种解决方案。