「推理成本」共找到 3269 篇相关文章
mcpx？要来拯救mcp！让工具调用不再吃掉你的上下文
MCP传统集成方式需在对话前加载所有工具定义，易使上下文溢出。开发者cs50victor基于mcp - cli构建mcpx，按需发现工具，大幅节省token，提升准确率，适合本地部署，虽有额外推理调用，但利大于弊。
纽约时报：OpenAI或将在18个月内现金流枯竭
纽约时报报道，OpenAI虽融资400亿美元，但内部预测2028年亏损将扩至450亿美元。独立AI公司受成本爆炸困扰，未来18个月OpenAI或资金枯竭，可能被大厂吞并，AI泡沫时代将硬着陆。
100万亿Token揭示今年AI趋势！硅谷的这份报告火了
OpenRouter和a16z联合发布《State of AI：An Empirical 100 Trillion Token Study with OpenRouter》，基于100万亿Token分析模型真实使用情况，揭示2025年AI发展趋势，如开源模型崛起、推理模型成新范式等。
LeCun团队开源首个代码世界模型：能生成代码还能自测自修！传统编程模型一夜成古典
Meta FAIR推出全球首个代码世界模型CWM，它能生成代码、理解语义，还‘懂得’代码执行，能模拟运行过程。在多个代码与推理任务表现出色，开源代码、训练细节等，不过目前仅支持Python。
把 RAG 做成主流的公司，现在开始“做空”RAG 了
Pinecone 曾将 RAG 定义成大语言模型 grounding 标准范式，如今却宣布 RAG 时代结束。它推出面向 Agent 的知识引擎 Nexus，提出“知识编译”概念，称能提高任务完成率、降低 token 开销，整个 AI 世界都在将“推理”往上游移动。
每周产业洞察｜校园母题与流量要素成为AI短剧行业的爆款公式
近期AI短剧行业数据亮眼，TikTok生态和国内市场规模惊人，但淘汰率也高。其有“校园母题+流量要素”爆款公式，AI降低制作成本，工具平台参与度加深，且用户画像向男性、游戏用户迁移。
向量数据库要被取代？DynamoDB 开始原生支持 AI 搜索
Amazon DynamoDB 推出原生向量搜索，允许开发者将嵌入向量与应用数据存一起，直接在其中运行近似最近邻查询，无需单独向量数据库。介绍了功能特点、成本计费及开发者反馈等。
紫东太初推出GMC核心集剪枝方法，少80%Token仍满血保真多模态能力
视觉Token冗余是多模态模型高效推理与落地的瓶颈，传统筛选方法有缺陷。紫东太初团队提出GMC核心集剪枝方法，具双阶段架构，优势多，实验显示其能在减少Token同时保持性能。
我手机里装了20个AI，最后发现只需要一个
AI工具爆炸，人们成了「AI项目经理」。百度DuMate在开发者大会展示强大能力，一句话可让三件不同工作并行执行，有技术架构支撑，已获认证且成本下降，入口之争本质是生态之争。
揭秘与评测 30K+ Star 的 Graphify：企业存量系统 AI 编码的"第二大脑"。
文章揭秘评测 30K+ Star 的 Graphify，它能将分散材料转为结构化知识图谱，助 AI 编程助手理解代码。介绍其使用方法、原理，经测试它能提升综合质量、降低探索成本，不过并非万能解药。