「大语言模型推理」共找到 8333 篇相关文章
全网开测GPT-oss！技术架构也扒明白了
全网开测GPT-oss，它登顶开源模型王座，性能比肩o3-mini、o4-mini，适合本地推理。网友探索出多种用法，还推出Pro版。其架构也被扒出，官方介绍了微调方法，吴恩达等大佬也参与测评。
Cache Me If You Can：陈丹琦团队如何「抓住」关键缓存，解放LLM内存？
普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长，此前方法难公平比较。团队提出「KV 足迹」指标，改进方法并推出 PruLong 优化内存，节省空间且保性能。
RL救不了泛化性！揭示LLM数学Reasoning的深层瓶颈
大型语言模型在数学竞赛级任务依赖机械化推理，现有评测集有缺陷。UC Berkeley团队提出OMEGA基准量化其数学泛化能力，实验揭示复杂度引发性能崩塌等问题，指出LLM创新组合难，给出改进方向。
视频字幕处理开源神器
卡卡字幕助手（VideoCaptioner）操作简单，无需高配置，支持 API 和本地离线语音识别，利用大语言模型处理字幕。它支持多平台视频下载处理，有专业语音识别引擎，能智能纠错、高质量翻译、调整字幕样式。
FairyGen：AI 把孩子的画“动”起来，个性化教育和动画创作
FairyGen 能将孩子画作变成卡通短片，通过多模态大语言模型构思分镜脚本，采用分层建模处理前景人物动作与背景动态。其生成流程分四阶段，但也存在前景角色重建不准、背景生成不稳定等问题。
刚刚，AI科学家Zochi在ACL「博士毕业」，Beta测试今日上线
Intology宣布AI科学家Zochi论文被顶会ACL主会录用，成首个独立通过A*级别会议同行评审的AI系统，还开放Beta测试。其研究成果显示语言模型安全措施或有不足，Zochi工作成果多且质量高。
Relink：为GraphRAG动态构建证据图
大语言模型在开放域问答中有‘幻觉’问题，GraphRAG结合LLM与知识图谱缓解此问题，但现有方法有缺陷。作者提出‘推理并构建’新范式和Relink框架，实验显示其性能领先，对RAG系统设计有启示。
PolarDB AI助手：自然语言驱动的智能数据库运维新范式
企业数据库运维复杂度高，专业人才稀缺成瓶颈。阿里云PolarDB推出AI助手，基于大语言模型与专家知识库，有智能问答等核心能力，以自然语言交互降低使用门槛，提升运维效率与系统稳定性。
从扫街榜到Robotaxi，空间智能彻底打开了高德的想象空间
这周一，一张神秘海报引发对高德的猜测。11月5日，高德宣布与小鹏合作提供Robotaxi服务。其空间智能形成闭环，比语言模型更接近AGI，还能为Robotaxi提供安全保证，且在多领域有落地应用。
突破后训练瓶颈？Meta超级智能实验室又一力作：CaT解决RL监督难题
AI后训练依赖监督微调或程序化检查器，但很多有价值任务缺这两种资源。Meta超级智能实验室等机构研究者提出CaT方法，把推理时额外计算当教师信号，为大模型提供监督，实验显示效果显著。