「大模型推理系统」共找到 9156 篇相关文章
“扁平+拓扑”双索引，85页PDF"秒级"推理，MMRag幻觉率骤降76%
文章聚焦多模态长文档视觉问答，介绍现有LVLM - based和RAG - based技术路线及困境。提出MMRAG - DocQA方案，引入‘分层索引 + 多粒度检索’，设计双索引建模相关性与依赖，用互补策略实现证据互补。
手工软件工程师的时代已经结束！一位连续创业CTO的判断
连续创业者、Tessi.ai CTO Ben Greene 在访谈中指出，生成式 AI 改变软件工程形态，手工软件工程师时代过去。工程师应转向理解问题、设计系统，具备系统思维、业务理解和与人协作能力，学会“AI 编排”。
喂饱OpenClaw！北大中科院95后打造星际超算，硬刚马斯克
中科天算与炎和科技联合宣布太空超算原型系统发布，完成太空算力与钙钛矿能源系统联调。全球算力需求爆发，地面超算受限，太空成核心战场，我国此次突破彰显创新魄力。
告别AI胡说八道，Meta新方法CoVe准确率飙升 28%
大模型‘幻觉’问题一直是‘严肃使用场景’的难题。Meta AI团队提出CoVe新方法，让大模型学会‘自我反省’。该方法通过四步走实现自我纠错，能大幅降低幻觉率，还具备三大优势。
分割一切、3D重建一切还不够，Meta开源SAM Audio分割一切声音
Meta 深夜放出音频分割模型 SAM Audio，可通过多模态提示分离任意声音。其核心 PE - AV 推动性能领先，还发布评测模型、基准等，整合进新平台，虽有局限但为音频 AI 带来新可能。
claude code也过气了？opencode+插件彻底火了~
opencode是开源CLI coding Agent，其与oh - my - opencode组合能让订阅的多个模型组队干活。还兼容claudecode，后台agent并行，lsp工具全开，有“ultrawork”魔法词，适合常切换用模型的人。
探索 GPU 加速向量检索：NVDIA Cagra 在微信大规模推荐系统中的应用实践
本文分享腾讯团队将 Cagra GPU 图索引大规模应用于微信核心线上推荐业务的实践。介绍 Cagra 算法原理与优势，讲述线上化改造、架构演进、CPU/GPU 协同优化等，展示业务落地显著收益。
GPT-5.4发布，拥有原生计算机操作能力，像是给OpenClaw量身打造的模型。
OpenAI凌晨发布GPT-5.4，或是4o模型后提升最大的一次。它价格较合理，有原生计算机操作能力，支持100万token上下文，还有工具搜索功能可降47% token损耗，与OpenClaw适配性佳。
跳过“逐字生成”！蚂蚁集团赵俊博：扩散模型让我们能直接修改Token | MEET2026
在量子位MEET2026智能未来大会上，蚂蚁集团赵俊博称扩散架构能直接修改控制token，理论上速度更快、成本更低。他团队押注扩散架构，近期开源千亿规模LLaDA 2.0。该领域虽处早期，但发展快，吸引众多巨头和初创公司布局。
Cloudflare 用 Rust 重写核心系统：CDN 性能提升 25%，响应时间缩短 10 毫秒
Cloudflare 宣布用 Rust 重写核心子系统，响应时间缩短 10 毫秒、性能提升 25%。基于代理框架 Oxy 构建 FL2，创建中间层让 Rust 模块在旧系统运行，还制定测试发布策略及回退机制。