「超低延迟」共找到 3051 篇相关文章
开源即爆火！英伟达重磅推出OmniVinci全模态大模型
英伟达在华盛顿GTC大会开源OmniVinci全模态大语言模型，实现视觉、音频、语言统一理解。它性能超竞品，架构有创新，数据引擎庞大。实验有重要洞察，在多场景表现佳，代表全新AI范式。
北大字节开源首个时空推理视频模型！思考过程全透明，性能超越GPT-4o
北大和字节联合团队推出开源模型Open-o3 Video，将显式时空证据嵌入视频推理全过程，采用non-agent架构，性能超越GPT - 4o等闭源模型。该模型构建了STGR语料体系，采用双阶段训练，实验表现优秀。
Qwen“半成品”推理模型刷下AIME满分，俘获大批国外开发者！实测碾压GPT-5 Thinking、还能写侦探小说
阿里发布 Qwen3-Max-Thinking 早期预览版，虽是‘半成品’，在数学推理竞赛中达 100% 正确率。Qwen3-Max-Preview 多项测试领先，速度超 ChatGPT，还成 AnyCoder 默认选项，但未开源。实测表现有优有劣。
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
SGLang 优化Triton FusedMoE 的一个新技巧
蚂蚁在SGLang中提交优化PR，针对Fused Triton MoE的Down Projection kernel加入TMA优化，在DeepSeek - R1模型的H200 TP8 prefill场景下性能提升显著，还详细分析了优化背景、思路、实现细节及测试结果。
Agnes：不做通用型智能体丨对话全民AI应用平台Agnes AI
量子位智库对话Agnes AI创始人Bruce Yang，探讨多智能体在AI产品的应用。Agnes AI以Multi Agent架构为核心，上线四月日活破20万。其介绍了核心功能、单多智能体差异、评估维度等，还谈及目标人群、市场规模等内容。
Langchain 、 Manus 组了一个研讨会：Agent越智能，死得越快！
Langchain工程师Lance Martin和Manus创始人Peak季逸超研讨Agent，指出Agent越智能死得越快，原因是疯狂调用工具致上下文过大。还介绍解决方案，如压缩与总结不同，Manus做减法架构更优。
LLM 技术在有道词典笔上的应用实践
本文围绕LLM技术在有道词典笔的应用展开。先分析端侧大模型落地挑战，如算力、功耗等。介绍有道词典笔等硬件及应用，对比端侧与云侧AI优劣。还阐述模型落地模式、算法优化及“子曰3数学模型”开源情况。
霜降｜秋霜印朱纹
霜降时节，灵感源于篆刻创作798节气海报，底图由AIGC完成。中国篆刻历史超3000年，2009年列入非遗名录。现当代艺术家谷文达挑战传统技法边界，798节气海报借AI让读者了解非遗创意。
腾讯开源混元世界模型1.1，视频秒变3D世界，单卡推理仅需1秒
腾讯发布并开源混元世界模型1.1，是统一的端到端3D重建基座大模型。它支持从多视图或视频一键生成3D世界，单卡秒级推理完成高精度重建，性能达SOTA，还具多特性，打破技术壁垒。