「有状态推理」共找到 7617 篇相关文章
大厂AI Coding产品集体亮相,12岁小朋友当场吐槽
阿里、百度、腾讯、美团四家大厂展示AI Coding产品,同质化严重。海外产品盈利佳,吸引大厂入局。12岁小朋友吐槽产品体验差,且赛道存在同质化困局,市场有诸多不确定性。
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程,指出padding分max和sum模式,旧版sum padding浪费计算、影响cuda graph使用,v0.4.10后有优化,max padding仍待完善。
NotebookLM能生成PPT了,还带演讲配音
谷歌NotebookLM有新功能,输入数据、图表、旁白就能自动生成带AI音频的PPT,还能让AI写旁白。此功能对总结汇报、学习新知识都实用,也有人试用后反馈存在速度慢等问题。
MeanFlow再下一城,北大提出机器人学习新范式MP1,实现速度与成功率双SOTA
北大研究团队提出机器人学习新范式MP1,将MeanFlow引入机器人学习,实现毫秒级推理速度。还引入分散损失提升少样本泛化能力,在仿真和真机测试中,实现速度与成功率双SOTA。
如何将LLM的"思考习惯"迁移到视觉领域?
传统多模态模型处理复杂视觉推理能力不足,OVR团队以Qwen2.5 - VL - 7B为基础构建开源强化学习框架,成果模型OVR在12个基准测试刷新记录,揭示认知行为跨模态迁移三条黄金定律。
一篇被证明“理论有误”的论文,拿下了ICML2025时间检验奖
2015年发表的Batch Normalization论文在ICML 2025会议获时间检验奖。它引用超6万次,推动了深层神经网络发展。虽2018年被指理论有误,但仍有新研究发现其对训练过程的根本影响。
等了十年,特斯拉Robotaxi终于上线!马斯克:仅需4.2美元一口价
上周日,特斯拉在德克萨斯州奥斯汀启动Robotaxi服务,首批乘客4.2美元一口价。服务限定试运营,覆盖区域受限,车内有安全监控员。目前体验平稳但不成熟,未来能否后发先至待验证。
大模型Agent的下一阶段:可自我进化的AI-Agent
在人工智能飞速发展下,研究者探索让AI自我反思改进。本文作者构建自我进化AI智能体系统,设计四层渐进式架构,经《卡坦岛》实验,证明自我进化能力,不同模型表现有差异,代码级进化潜力惊人。
Anthropic最新研究:Claude存在神秘J空间,与人类心智高度相似
Anthropic研究团队在Claude中发现类似人类大脑工作机制的J空间,它存在于模型神经激活中,能让模型默默思考。失去J空间Claude在多步骤推理任务表现变差,还可暴露模型意图,团队已创建演示工具JLens。
超越MLA!新架构MLRA百万token,解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时,自回归生成受限于显存带宽。为减少KV缓存开销,业界尝试多种方法,但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA,拆分KV缓存为四个并行分支,降低显存占用,实现4路张量并行,性能更优。