「假设树」共找到 86 篇相关文章
AI Infra进阶:如何让大模型输出确定的结果
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略,因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响,给出vLLM实现Batch Invariance的方法。
阶跃开源JetSpec,大模型推测解码提速近10倍
随着Agent应用爆发,大模型推理效率成AI行业焦点。阶跃星辰联合多校团队开源JetSpec,该框架面向推测解码,在H100上把MATH - 500解码速度提升到9.64倍,突破了推测解码的扩展天花板。
分享2篇最新Harness论文,一篇谷歌,一篇微软
在LLM Agent迅速发展的当下,如何为其设计合适的Harness成关键问题。本文分享微软M⋆和谷歌AutoHarness两篇论文,分别从记忆系统和动作约束维度提出自动化的Harness进化方法,并介绍了实验结果。
11.4K Star!基于 AI 大神 Karpathy 的编程经验开源的 Claude Code 技能插件。
AI写代码常遇盲目假设、过度设计、乱改代码等问题。开发者把AI大神Andrej Karpathy经验总结成Claude Code插件andrej - karpathy - skills,设定四大原则,还介绍使用、验证及自定义方法。
3000行代码长出无限技能:AI Agent自我进化时代来了
4月17日GitHub Trending上,Evolver和GenericAgent两个“自我进化”Agent框架登上热榜。Evolver用“基因进化”让提示词自动升级,GenericAgent以3000行种子代码长出独有技能树,二者代表不同进化范式。
JustGRPO:扩散语言模型的极简主义回归
本文提出回归极简的方法 JustGRPO,在 RL 阶段让模型自回归生成,用标准 GRPO 训练,能超越各类针对 dLLM 设计的 RL 算法表现,提升推理表现同时保留并行解码能力。
结构化预处理让DeepSeek准确率提升51%,现已开源丨清华&深言
零成本降低大模型幻觉新方法LingoEDU,让DeepSeek准确率提升51%。它对上下文精准切分,形成篇章结构树。能解决现有方案两难困境,在多方面实验表现出色,有根治幻觉等核心价值。
《圣经》成书时间或被改写!AI竟发现《死海古卷》早于所罗门时代
科学家用AI重构《死海古卷》时间线,发现许多卷轴比原先认为的年代更早。AI模型Enoch结合碳14定年与笔迹分析首创定年方法,超越传统古文字学,还可能揭示圣经作者线索。
Coding Agent 自主解题很强,但用户改一行代码就"翻车"?自所团队提出 SWE-Touch 揭示共享工作空间下的能力缺口
当前基于大模型的Coding Agent是热门研究方向,现有评测多假设其独占代码仓库。中科院自动化所团队构建SWE - Touch框架,对9个前沿模型测试,发现用户干预下模型性能下降、排名洗牌。
估值神话即将崩盘?Palantir CEO狂喷OpenAI和Anthtropic:拿走企业核心机密还要收过路费
Palantir CEO Alex Karp在电视采访中拆解OpenAI和Anthropic商业模式,指出企业花买token的钱未获匹配价值,商业机密被拿走。他质疑按token收费机制,认为不能稳定创造价值。还指出企业数据可能使模型取代自己,行业高估值或松动。