「推理算力」共找到 2707 篇相关文章
SGLang｜SGLang Diffusion
来自SGLang开源社区的Yichi介绍SGLang Diffusion，它是面向图像与视频生成的全开源扩散模型推理引擎。基于SGLang机制将能力迁移到扩散模型推理，能显著提速工作流，视频展示了多种功能。
震撼！人类第一张在太空生成的图片曝光
人类首张太空生成图片曝光，共绩科技与星测未来两家清华系企业携手开启「天地同算」时代。前者解决算力调度难题，后者让太空有算力可用，未来太空或成分布式超级计算机。
Google Research 开源新架构，AI 不再依赖云端，直接跑在手表和耳机上
Google Research 开源 Coral NPU 平台，是面向硬件工程师与 AI 开发者的全栈开源方案，可克服 AI 在可穿戴和边缘设备落地的瓶颈，实现能耗与算力平衡，还能解决算力、生态、隐私等问题。
国产版Ollama来了，Clawdbot终于不只属于Mac和英伟达
2月2日清昴智能发布玄武CLI开源版本，可理解为“国产版Ollama”。它能抹平硬件架构差异，让国产卡大模型部署零门槛。解决了国产算力在软件生态层面的痛点，提供统一稳定的部署与调用体验。
AI“压力面”，DeepSeek性能暴跌近30% | 清华&上海AI Lab
上海人工智能实验室等团队设计REST框架，在一个prompt里抛多个问题模拟多任务推理场景。测试发现即便顶级模型如DeepSeek - R1在“高压”下准确率也骤降，该框架能揭示模型差异，为评测提供新范式。
Nano Banana Pro或将引爆新安全危机
基于Gemini 3的图像生成模型Nano Banana Pro昨日上线，支持2K/4K分辨率生成，排版和文字控制能力提升。它展现出复杂推理能力，能理解反光、推理指纹，但这或带来隐私危机。
会“思考”的目标检测模型来了！IDEA提出Rex-Thinker：基于思维链的指代物体检测模型，准确率+可解释性双突破
现有目标检测方法有决策不透明和拒识能力不足问题。IDEA提出Rex - Thinker，引入“逻辑推理链”，构建可解释推理框架，经两阶段训练，在测评中准确率提升，可解释性强，有良好泛化能力。
KV-Cache 实战策略：生产环境中的分页、固定与复用技术解析
在大语言模型推理场景中，KV - Cache 是平衡性能与成本的核心技术，但生产环境中面临诸多问题。本文聚焦其分页、固定与复用三大战术，结合原理、实践与案例，为开发者提供解决方案，还探讨了未来演进方向。
2025 年中丨大模型市场分析报告
这是《2025年中丨大模型市场分析报告》。指出基础大模型塑造计算未来，企业重心转向推理。Anthropic超OpenAI成市场头号玩家，开源模型采用趋缓，企业换模型重性能，AI支出从训练转向推理。
上海人工智能实验室让AI像科学家一样在探索中发明工具
上海人工智能实验室等团队提出推理时工具演化（TTE）框架，推动AI在科学领域从被动选工具到主动发明工具。它解决传统工具库问题，提升多学科推理准确率，赋予AI跨学科迁移能力。