推理策略」共找到 2761 篇相关文章

产品应用7

Kafka 如何实现零停机迁移

随着企业将 Kafka 迁移至云原生架构需求增加,AutoMQ 成云端优选。但传统 Kafka 迁移方案难满足高可用需求,AutoMQ 推出 Kafka Linking 创新方案,支持双向写入与消费位点同步,实现零停机迁移。

InfoQ
推荐文章7

LeetCode刷够100小时,学会找人内推,OpenAI员工下场教你拿Offer

OpenAI新研究员Bas van Opheusden分享长达8页的面试指南,涵盖心态调适、准备策略、编程技巧等方面。他强调身心健康、享受过程,给出准备时间建议,还介绍各面试环节技巧及通过后注意事项。

机器之心
开源动态7

梳理SGLang中DP Attention及其Padding问题

作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程,指出padding分max和sum模式,旧版sum padding浪费计算、影响cuda graph使用,v0.4.10后有优化,max padding仍待完善。

GiantPandaLLM
产品应用8

让64张卡像一张卡!浪潮信息发布新一代AI超节点,支持四大国产开源模型同时运行

浪潮信息发布新一代AI超节点“元脑SD200”,可让64张卡像一张卡。它支持四大国产开源模型同时运行,实现算力聚合突破,通过软硬协同优化提升推理性能,采用开放架构推动“智能平权”。

量子位
推荐文章8

长上下文不再难:KV Cache 全生命周期优化实战

长上下文大语言模型发展带来计算和内存挑战,现有基准测试多忽视 KV 缓存完整生命周期。微软姜慧强在 AICon2025 分享 SCBench 工具,梳理推理优化方法,介绍 MInference 等,还提出 Tri - shape 方法等成果。

AI前线
推荐文章8

LangChain CEO 再聊 Agent:chat 模式只是起点,Ambient Agents 才是未来

LangChain CEO Harrison Chase 和企业 Agent 平台 Dust 的 CEO Stanislas Polu 在播客中探讨 Agent 发展。他们认为 Agent 是光谱,Agentic 程度更重要;chat 模式只是起点,Ambient Agents 才是未来;还谈及多智能体系统及 AI 创业等话题。

Founder Park
开源动态7

突发!Qwen更新模型,全面超越kimi k2,强的离谱,主打Agent

Qwen小更新非推理模型性能强劲,各项指标超kimi k2,与Claude opus 4持平,Agent能力亮眼。Qwen团队告别混合思维模式,新模型上线,独立训练两模型,新版本多方面提升,团队称还有大招。

AI寒武纪
新闻资讯7

揭秘白宫「AI甄嬛传」!奥特曼篡位马斯克,美国迎来AI「新教皇」

从‘冷板凳’到‘白宫座上宾’,奥特曼用不到一年完成华丽转身,替下马斯克掌控美国AI舵盘。他与特朗普从立场相左到同台亮相,OpenAI调整策略迎合特朗普,其政策目标也逐步落实。

新智元
产品应用7

Jina Embeddings v4 的量化感知训练

文章聚焦Jina Embeddings v4的量化感知训练。介绍量化技术可压缩向量体积、提升检索效率,对比四种主流量化方法,重点实验PTQ和Output QAT,还测试非对称量化,给出实验结果与结论。

Jina AI
推荐文章7

硅谷的企业级AI正在这样赚钱|2025人工智能现状报告

ICONIQ Capital发布的2025年人工智能现状报告聚焦企业级AI变现。报告基于对300名软件公司高管的调查,分析了模型选择、支出、工具使用等情况,指出AI产品战略进入新阶段,定价策略在重塑等。

量子位