搜索：国产推理芯片

「国产推理芯片」共找到 2874 篇相关文章

DeepSeek点燃大模型效率之争，阶跃火速接棒：JetSpec让大模型解码速度最高提升近10倍

近期，DeepSeek发布DSpark，阶跃星辰发表JetSpec论文，二者聚焦大模型推理效率。DSpark关注验证效率，JetSpec从Draft生成本身入手。结果显示，二者都有加速效果，共同表明推理效率正成Agent落地关键变量。

nndeploy是简单易用且高性能的AI部署框架，可将推理优化转化为可视化工作流，无需前端技术栈。它还提供端侧完整AI部署方案，有多端推理等功能，介绍了使用方法与技术原理。

Hybrid Schema - Guided Reasoning（SGR）是革命性AI研究智能体框架，用「两阶段推理 - 执行架构」和「持久化上下文记忆系统」，解决AI助手复杂研究任务的三大痛点，模拟人类研究过程，适用于多场景。

SSI官方宣布与英伟达达成长期战略合作，英伟达将大规模投资，助其12个月内算力扩10倍。此前SSI算力依赖谷歌TPU芯片，此次合作反映芯片厂商争夺客户策略。

在ICPC 2025编程赛上，OpenAI 5小时内解决12个问题满分登顶，其由通用推理模型集成体构成，结合GPT - 5与实验性模型；Gemini解决10个问题达金牌水平，在部分难题表现出色。

随着算法、芯片、场景深度融合，端侧AI计算成终端智能化核心引擎，重塑IoT终端应用场景智能体验。端侧AI芯片作为技术底座，正重塑终端产业格局，虽面临挑战，但未来前景广阔。

来自SGLang开源社区的Yichi介绍SGLang Diffusion，它是面向图像与视频生成的全开源扩散模型推理引擎。基于SGLang机制将能力迁移到扩散模型推理，能显著提速工作流，视频展示了多种功能。

上海人工智能实验室等团队设计REST框架，在一个prompt里抛多个问题模拟多任务推理场景。测试发现即便顶级模型如DeepSeek - R1在“高压”下准确率也骤降，该框架能揭示模型差异，为评测提供新范式。

基于Gemini 3的图像生成模型Nano Banana Pro昨日上线，支持2K/4K分辨率生成，排版和文字控制能力提升。它展现出复杂推理能力，能理解反光、推理指纹，但这或带来隐私危机。

现有目标检测方法有决策不透明和拒识能力不足问题。IDEA提出Rex - Thinker，引入“逻辑推理链”，构建可解释推理框架，经两阶段训练，在测评中准确率提升，可解释性强，有良好泛化能力。