「生成式推理」共找到 4339 篇相关文章
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
比修驴蹄还魔性！谷歌这7段纸片动画，看完焦虑没了，第2支直接封神
全球网友爱刷解压视频，谷歌Gemini下场做带提示词的解压视频。它推出7段纸艺动画，包括火烈鸟起舞、圣托里尼落日等，靠高精准提示生成等打造，拓展想象边界，是通往美学与治愈的桥梁。
Midjourney正式推出 V1 视频模型：美学细节无敌
Midjourney推出视频生成模型V1，主打高性价比、易上手。采用“图像转视频”工作方式，有两种动画和运动幅度设置。入门价每月10美元，任务成本低，未来一月或调价格，目标是实现实时交互开放世界模拟系统。
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
搜索智能体RAG落地不佳？UIUC开源s3，仅需2.4k样本，训练快效果好
当前 Agentic RAG 落地有挑战，UIUC 和 Amazon 提出 s3 训练范式。它仅需 2.4k 样本，训练快且效果好，解决了优化目标偏离、检索与生成耦合等问题，在通用和医学 QA 任务中表现出色。
员工每天花1000美元也要用ClaudeCode！创始人：太贵了，大公司专属，但它比 Cursor 猛！
Claude Code处理大型代码库能力强，但价格贵，有用户称能力超Cursor。其创始人分享设计理念、使用方法等，还提到它基于Claude 4系列模型有新变化，可在GitHub等场景用，未来会拓展工具协同和小任务处理。
伯克利斯坦福联手造出「科研预言家」：77%准确率押注研究想法前景
伯克利和斯坦福团队让GPT - 4.1变身「科研预言家」，从顶会提取想法对比案例训练，不借助实验验证，靠推理押注。其在公开题库测试、人类专家团战等测试中表现出色，还能预测AI新点子。
叫板 OpenAI Sora？Manus 推出文生视频服务，计划向所有用户开放
近日，Manus AI 推出文本转视频生成服务，支持单条提示完成视频制作，目前供部分订阅用户抢先体验，计划向所有用户开放，对标 OpenAI Sora 等竞品。其母公司获投资，还与微软合作，系统有独特优势。
阿里通义的视觉RAG革命！VRAG-RL：基于强化学习的视觉感知RAG框架，性能飙升30%
阿里巴巴通义实验室推出VRAG - RL，融合视觉感知、多模态推理与强化学习，已在GitHub开源。它破解传统RAG处理视觉数据难题，通过创新机制提升性能，在多数据集表现出色，还将向更拟人化和低幻觉方向发展。
在Think中边搜索边调整的搜索增强Reasoning方法
LLM虽知识丰富，但无法掌握训练数据外的信息，传统检索增强生成方法有缺陷。AutoRefine提出“先筛选，再回答”理念，用强化学习训练，实验显示在多方面碾压传统方法，未来或改变知识密集型任务解决方式。