「推理性能优化」共找到 4188 篇相关文章
Token售卖已无溢价、大模型公司转型“系统商”？记忆张量 CTO 李志宇：智能体能力会拉开差距，长期记忆与状态管理成竞争核心
InfoQ 采访记忆张量 CTO 李志宇，他指出 Scaling up 经济效益下降，大模型公司正变系统公司，核心是长期记忆与状态管理能力。2026 年若模型无代际差，价格战或加剧。智能体是主赛道，但现有模型推理能力不足。
OpenAI新Agent遭中国24人初创团队碾压！实测成本、质量全输惨，海外用户：中国Agent代差领先
今日凌晨，OpenAI 推出 ChatGPT Agent 新功能，能让 AI 助手完成多步骤任务。虽官方称其性能先进，但实际效果有局限。海外用户将其与中国团队产品对比，发现中国 24 人初创团队产品成本、质量更优。
Cursor终结者？Grok 4正式登顶！马斯克扬言编程碾压，20万N卡年赚47亿美金！
时隔5个月，xAI发布通用模型Grok 4，后续还将推三款模型。Grok 4上线，有三个订阅版本。马斯克称其智能超博士生，多项基准测试领先，编码或超Cursor。其性能强大源于训练投入和计算扩展。
专治AI生图「人脸崩坏」，8倍速碾压GPT！新版FLUX.1多方位刷新SOTA
FLUX.1 Kontext是融合即时文本图像编辑与文本到图像生成的新一代模型，支持文本与图像提示，角色一致性强，速度快达GPT - Image - 1的8倍。它能解决AI生图“人脸崩坏”等问题，评估显示性能优异。
100亿H20没卖出，英伟达狂赚1000多亿破纪录！
今早英伟达公布2026财年第一季度财报，营收、净利润双双破纪录。虽因H20芯片问题流失80亿美元营收机会，但AI推理爆发、与马斯克合作及欧洲扩张成新增长点，预计下季营收450亿美元。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。
SentGraph：一句一句把多跳RAG“画”成图
传统RAG在多跳场景易‘断链’，因检索单元太胖、逻辑关系乱。SentGraph把检索单元缩到句，按逻辑画三层图。线下建图分拆句、找关系、架桥梁；线上推理有Anchor初选、精炼及路径扩展。实验提升显著，也有局限。
Qwen3又又又发布了新模型~~~
Qwen3团队继发布`Qwen3-235B-A22B-Instruct-2507`和`wen3-235B-A22B-Thinking-2507`后，又发布`Qwen3-Coder-30B-A3B-Instruct`。该简化模型性能和效率出色，有多项关键增强功能，且是非思考模型，输出效率高。
刚刚，百度最新开源神作：PaddleOCR-VL-1.5上线了
1月29日百度开源新一代文档解析模型PaddleOCR-VL-1.5，参数仅0.9B，在OmniDocBench V1.5评测中综合性能全球第一，精度达94.5%。它支持异形框定位，解决真实文档解析难题，在多场景表现出色。
让AI生成视频「又长又快」：Rolling Forcing实现分钟级实时生成
南洋理工大学与腾讯ARC实验室联合研究，由博士生刘坤昊等完成，提出Rolling Forcing方法，通过滚动窗口联合降噪等创新设计，突破实时长视频生成瓶颈，实现分钟级实时生成，还支持交互控制，但仍有优化方向。