算法论文8
ATTS：让大模型推理更高效
深度学习自然语言处理
AI 摘要
ATTS：让大模型在测试时扩展推理能力，降低系统开销。它将传统同步流程改为异步框架，用共形预测筛选路径，实验在多任务展现效率优势，实现加速与吞吐提升。
阅读原文 · 深度学习自然语言处理
让大模型异步地增强推理能力
在大模型推理时代，Test - Time Scaling成提升能力重要方向，但面临效率问题。ATTS提出异步框架，加入共形预测筛选候选路径，实验显示其加速显著，将测试时扩展推进到‘有原则加速’阶段。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
发布9天，Jev估值破百亿美元
本文报道AI初创公司TypeSafe AI发布的模型Jev上线仅9天，就传出投资者给出超百亿美元估值，剖析资本追捧低价薄利模式的原因，同时梳理业内对其护城河的质疑，探讨大模型赛道资本动向。
DeepTech深科技
新闻资讯8
机器人的GPT时刻就是GPT本身？
本文围绕GPT-6 Astra发布后的行业测试展开，讨论通用大模型能否成为机器人的通用大脑，分析了通用大模型参与机器人控制的原理与优势，点明当前能力边界，提出了分工协作的落地方案。
DeepTech深科技
新闻资讯8
谷歌AI踩油门：Gemini冲刺TPU上天
本文报道谷歌近期AI业务最新动态，涵盖Gemini 4大模型研发进展、TPU上太空测试计划，以及工程师因AI发展太快辞职事件，展现谷歌AI全面加速的现状。
量子位
新闻资讯8
AI时代，计算机科学界死了吗？
本文整理了德克萨斯大学奥斯汀分校AI博士生曹晋的公开发帖，围绕大模型冲击下AI学术界灌水严重、研究范式过时的观点展开，探讨AI研究者与博士生的未来出路，引发业内广泛讨论。
机器之心