「上下文生成」共找到 2804 篇相关文章
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
“不是...而是...”刷屏的一年，我读内容的快乐被AI偷走了。
作者补完《怪奇物语》后看B站解说视频，因文案中“不是...而是...”句式不适，由此探讨人们讨厌AI生成内容的原因，指出其像新时代八股文，还提及全球对AI内容的不信任，呼吁保持与他人的真实连接。
3.3k星星！用AI做前端动效最好的开源项目，给AI写前端代码注入灵魂
现在AI编程做的前端效果不佳，页面不生动、特效生硬。而Text-to-Lottie开源框架可通过AI编程Agent快速生成生产级Lottie动画，支持多种输入，有实时预览与编辑功能，还能集成多平台，简化动效开发。
重新思考 AI TCO：为何每 Token 成本才是唯一重要的指标
在生成式与代理式AI时代，传统数据中心转变为AI Token工厂，企业评估AI基础设施时不应只关注算力成本、每美元FLOPS，而应重视每Token成本，它决定AI规模化盈利，NVIDIA在该指标上表现出色。
不吹不黑，在Agent任务上，kimi 2.6确实让我忘了Claude。
Kimi K2.6发布并开源，代码和Agent能力提升。作者测试发现，它在部署Claude Code源码、网站生成、多智能体任务等方面表现出色，审美提升，思维活跃，还能复刻文档风格，开源释放了前沿编程能力。
SVG性能比肩GPT/Claude，腾讯开源3B模型HiVG，让Token「懂几何」
腾讯混元团队开源仅3B参数的HiVG，它是面向SVG生成的层次化分词框架，减少63.8% token数量，多项指标超越GPT-5.2等闭源模型及8B级开源模型，还在人类评测中表现出色。
一夜蒸发1400亿！谷歌一个AI演示，游戏股集体跳水
1月29日谷歌发布Project Genie，上线不到24小时人们就用它创作作品。受其影响，Take - Two、Roblox、Unity等游戏巨头股价跳水，市值合计缩水约195亿美元。不过目前它生成的‘游戏’问题多，难取代游戏开发者。
Granola 为什么能赢：会议笔记，把产品做简单很重要
Granola是新推出一年多的AI笔记产品，迅速成硅谷创业者、投资人常用工具。其创始人认为，“AI笔记”头号竞争对手是苹果备忘录。产品好用关键在于极简“蜥蜴脑设计”与利用用户“上下文”，文中还分享设计思考与实用经验。
大模型再爆弱点！旧记忆忘不掉，新记忆分不出，准确率暴降 | ICML'25
弗吉尼亚大学和纽约大学研究人员用「前摄干扰」概念设计测验PI - LLM，测试大语言模型（LLM）上下文检索能力。结果显示，随干扰增加，模型准确率对数下降至零，提示工程效果有限，需调整模型架构或训练范式。
The Batch：841 | 大语言模型正在纠正历史遗留的不公
美国北加州旧不动产契约含种族歧视条款，虽已非法但人工筛查耗时久。斯坦福和普林斯顿研究团队微调大语言模型识别圣克拉拉县契约中的歧视条款，模型可理解上下文，结果经律师确认，研究成果已开源。