「上下文瓶颈」共找到 1209 篇相关文章
「幻觉」竟是Karpathy十年前命名的?这个AI圈起名大师带火了多少概念?
AI大牛Andrej Karpathy是命名大师,“幻觉”一词由他命名,2022年随ChatGPT火起来。他还提出软件2.0、3.0,氛围编程、细菌式编程等概念,转发带火上下文工程,平时推文也让一些问题受关注。
告别微调时代:拖拽式LLMs实现12000倍加速适配,输入描述,秒级定制LLM,效果、速度全面超越
传统高效微调技术成大规模部署瓶颈,论文提出Drag-and-Drop LLMs (DnD),仅需输入目标任务未标注提示,即可秒级生成适配的LoRA权重,实现LLM秒级免训练适配,效率、性能和泛化性上均有突破。
大语言模型的解耦:人工智能基础设施的下一轮进化
人工智能模型发展快,但基础设施滞后,传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异,指出解耦架构可突破困境,还阐述其经济影响、实施策略、应用案例及未来展望。
印度裔 AI 负责人删掉 Karpathy 90%遗留代码,马斯克 Robotaxi 终上线!用户体验:不要小费,还可能倒给你钱
当地时间6月22日,特斯拉在奥斯汀启动Robotaxi试点服务。其AI团队核心成员是印度裔阿肖克和德国工程师米兰。技术上精简代码、扩展模型上下文长度,用户体验顺畅,但与马斯克此前设想设计有差异,国内也有多家企业开展此业务。
李飞飞押注的空间智能:生成的世界,如何「经得起折腾」?
李飞飞押注的空间智能是世界模型主流路线之一,旨在让AI生成可操作三维世界。但当前AI生成世界存在“中看不中用”问题,构建“站得住”的世界面临速度与状态瓶颈,生境科技等实践提供了解决思路。
都说记忆是Agent标配,但MemSyco发现漏算了一件事
厦门大学与吉林大学的最新研究指出,随着大模型Agent具备长期记忆,虽成为“长期协作者”,但也出现Memory-Induced Sycophancy问题。为此提出MemSyco - Bench评测基准,经实验得出多项发现,指出Agent Memory关键瓶颈转变。
全行业的「龙虾热」中,什么是AI Infra下半场的「神之一手」?
OpenClaw爆火,标志AI进入「自主执行时代」,但面临安全、资源利用和并发规模等挑战。腾讯云Agent Runtime为企业级AI智能体打造专业支持,解决状态管理和行为治理难题,还助力MiniMax突破性能瓶颈。
史上最惨一代?AI延长人类寿命,下一代活到200岁不是梦!
内容创业者Matt Wolfe长期关注AI,他与工程师交流,揭示AI发展现状。巨头各有策略,能源或成瓶颈。AI或带来智能爆炸与生命延长,也可能有‘黑箱语言’风险,还探讨了寿命、机器人等影响。
RLPT:腾讯混元在预训练数据上实现自主强化学习
腾讯混元团队发布RLPT,是在预训练数据上应用强化学习的方法,可突破大语言模型扩展瓶颈。它能让模型自主学习推理能力,无需人工标注,在Qwen3 - 4B - Base模型实验中性能显著提升。
大模型再爆弱点!旧记忆忘不掉,新记忆分不出,准确率暴降 | ICML'25
弗吉尼亚大学和纽约大学研究人员用「前摄干扰」概念设计测验PI - LLM,测试大语言模型(LLM)上下文检索能力。结果显示,随干扰增加,模型准确率对数下降至零,提示工程效果有限,需调整模型架构或训练范式。