「推理成本」共找到 3288 篇相关文章
谷歌TPU能撼动英伟达吗？前TPU工程师首次揭秘
在AI算力争霸时代，英伟达GPU市值狂飙，但蛋糕正被分食。前谷歌TPU工程师Henry揭秘TPU，从架构、产能、软件等维度分析其优缺点，指出在特定条件下TPU可挑战GPU，未来芯片市场将百花齐放。
鹏城实验室 X 中大hcp实验室推出 RADAR : 具身智能评测的新标杆
RADAR是鹏城实验室与中大hcp实验室为具身智能领域设计的评测基准，解决现有评测体系三大缺陷，通过创新设计揭示模型不足，为研究者提供方向，推动具身智能实用化。
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
AI 编程正在终结框架时代
作者认为自动化编程让人们摆脱繁重体力劳动，可专注重要创作。框架解决简化、自动化和劳动力成本问题，但带来诸多弊端。真正的软件工程已回归，应摆脱无用复杂性，自主构建产品。
IC产量增长10.9%、换道超车……今年“两会”的“芯”消息令人振奋
2026年全国“两会”进行中，“政府工作报告”显示2025年科技创新成果丰硕，如集成电路产量增长10.9%。代表委员对半导体等建言聚焦质的飞跃，还给出芯片产业化、算力布局等“解题思路”。
模型砍掉一大半，准确率反升15%！华科&阿里安全新研究实现ViT近乎无损的类特定压缩｜ICLR'26
华中科技大学联合阿里安全部提出Vulcan方法，一改传统压缩策略，通过“先训练再剪枝”实现ViT近乎无损的类特定压缩，为大模型服务小场景提供新路径，论文已被ICLR 2026接收。
内存涨价，千元机的天塌了
去年下半年起存储芯片涨价，因AI基础设施需求爆发，三大存储芯片厂产能被榨干。消费级产品供应受挤压，中低端手机成最大受害者，各厂商搁置低价产品线，中低端市场持续萎缩。
清华刘知远团队论文：最小化结构改动，短文本到长文本丝滑升级 | ICLR 2026
大语言模型发展中，上下文长度成关键瓶颈，主流架构计算开销大。清华刘知远团队提出《InfLLM-V2: Dense-Sparse Switchable Attention for Seamless Short-to-Long Adaptation》，提出可切换注意力框架，为长上下文研究提供新思路。
跨境电商版Sora发布：全球首个AI原生电商视频Multi-Agent来了
营赛AI发布跨境电商版Sora——inSai Hilight。它无需拍摄素材与复杂提示词，扔个商品链接或图，20 - 30分钟就能生成逻辑严密、商品还原度100%、符合TikTok爆款节奏的营销视频，重新定义电商营销视频生产方式。
谷歌发布 Gemma Scope 2，深化对 LLM 行为的理解
Gemma Scope 2 是谷歌推出的解释 Gemini 3 模型行为的工具，结合稀疏自编码器和转码器，能让研究人员检查模型内部表示。它从多方面扩展了原先的 Gemma Scope，还引入针对聊天机器人的分析工具，已发布权重。