搜索：推理性能优化

「推理性能优化」共找到 4225 篇相关文章

给 Agent 接搜索功能，有哪些「坑」需要特别注意？

搜索是AI产品标配，但给AI接搜索不易，给人用和给AI用的搜索差异大。信息检索质量影响Agent推理与任务完成度。邀请小宿科技相关人员聊给Agent接入搜索能力，10月30日20点线上闭门活动可扫码报名。

8月6日晚，OpenAI发布ChatGPT世代首个开源模型GPT - oss，有120B和20B两款。模型原生支持4 - bit量化，性能损失小，低配置显卡也能运行。跑分表现不错，还介绍了使用途径，虽有不足但改变开源社区格局。

本文基于M站首页重构项目，讲述借助AI编程工具Cursor和结构化Prompt，完成从Rax到React的组件迁移、DX到React的跨端重写，实现业务逻辑优化与工程规范落地，还分析了AI提效的优劣并总结迁移范式。

文章指出AI系统需要设计模式，如GoF塑造软件设计，云计算引入新模式，机器学习社区也有相关模式。文中介绍现代AI系统的5类实用设计模式，含提示和上下文、负责任的AI、用户体验、AI - Ops和优化模式等，并举例说明。

作者深度测试新DeepSeek R1，发现其代码生成能力超Claude 3.7，虽编程全面性有不足，但已处Claude 3.7与Claude 4之间。前端设计审美达Claude 4水准，部分方面略胜，有自主学习推理能力，或改变中国AI历史。

文章深入剖析多模态大语言模型核心技术架构与训练方法的进化，涵盖建模范式、视觉编码器、语言骨干网络、模态对齐、生成范式及训练方法等方面，介绍其演进路径与代表模型，还提及国内模型创新及开源模型OpenVLA。

Google DeepMind 升级了 Gemini 3 的专用推理模式 Deep Think，跑分屠榜。ARC - AGI - 2 拿下 84.6%，在多个基准测试中表现优异。它不仅是解题机器，还能解决真实科学工程问题，已向部分用户推送，科研人员和开发者可通过 API 使用。

Meta FAIR推出32B参数的代码世界模型（CWM），旨在探索世界模型如何改变代码生成和推理，code和mode已开源。在SWE - bench验证中表现优，能与更大规模或闭权重的LLM竞争，还介绍了训练、数据集等情况。

本文围绕RAG技术展开，指出传统RAG在多跳推理等方面存在局限。介绍了GraphRAG、HippoRAG 2的优缺点，重点阐述Zleap AI的SAG方案，它用超边结构重构数据底座，在多跳问答测试中表现出色，还能在大规模数据下低延迟落地。

AI大牛梅涛创立的智象未来公司推出vivago2.0（智小象AI），支持图片、视频、播客生成，有上百种特效模板，生图还能自动优化prompt。其依托HiDream - A1，结合HiDream - I1和HiDream - E1能力，团队技术实力强且融资顺利。