「上下文学习」共找到 1971 篇相关文章
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
3B Image Captioning小钢炮重磅来袭，性能比肩Qwen2.5-VL-72B
文章推荐Dense Image Captioning新技术CapRL，它首次将DeepSeek - R1强化学习法用于image captioning，创新定义reward。训练的CapRL - 3B模型性能比肩Qwen2.5 - VL - 72B，解决了reward设计难题，已开源相关内容。
斩获7.4K标星！NotebookLM的终极开源平替，私有化多模态播客一键生成！
Google的Notebook LM虽能上传资料一键生成播客总结，但有数据隐私等问题。近期GitHub上的Open Notebook获7.4K标星，它复制并超越前者功能，强调数据主权，有多项亮点且部署灵活。
让LLM扔块石头，它居然造了个投石机
港中大研究团队带来《Agentic Design of Compositional Machines》，推出BesiegeField平台，支持并行实验和大模型‘自我进化’。它将机械设计转为语言生成任务，通过闭环训练提升模型能力，多个模型测试表现良好。
0.027B手机AI模型，估值2亿美金，三个清华学霸如何获得国际大学生创新大赛冠军
10月15日，清华万格智能团队“基于类脑架构的下一代通用模型与智能体生态”获中国国际大学生创新大赛（2025）冠军。团队由三个清华本科生创立，此前已完成融资，估值达2亿美元。其智人HRM模型有诸多优势，还研发出顶尖气候预测专家模型。
从「知题」到「知人」：UserRL让智能体学会「以人为本」
大语言模型距成真正用户伙伴缺‘知人’能力。来自UIUC与Salesforce团队提出UserBench和UserRL方案。前者将‘用户特性’制度化，构建评测环境；后者搭建统一强化学习框架，探索奖励建模，二者让‘以用户为中心’落地。
节前重磅：开源旗舰模型新SOTA，智谱GLM-4.6问世
国庆前智谱AI发布新一代旗舰模型GLM-4.6并将开源，它在多方面提升，如编码、上下文长度等，评测性能佳，token消耗降低。经实测，其代码、研究、开发等能力强，成全球开源AI领域重要力量。
奥特曼：点名表扬两个波兰人，OpenAI还没遇到过他们解决不了的问题
奥特曼点名表扬OpenAI两位波兰科学家Jakub Pachocki和Szymon Sidor，他们贡献从Dota项目扩展强化学习到领导GPT - 4预训练。2023内乱中他们追随奥特曼，后帕哥成首席科学家，西哥为独立贡献者。
UNC | 发布Bifrost-1，构建“最强大脑”与“顶级画师”的桥梁，低成本实现“文生图”自由
随着AI发展，打造能推理又能创作的系统成为焦点。但让LLM学习视觉创作面临训练成本高和能力受损问题。BIFROST - 1框架在MLLM和扩散模型间建通信信道，解决核心痛点，实验表现出色。
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。