「推理场景」共找到 3762 篇相关文章
Kimi K2 详测｜超强代码和Agent 能力！内附Claude Code邪修教程
作者熬夜带来 Kimi K2 模型详测及 CC+K2 邪修教程。K2 是 1T 参数量的 MoE 开源模型，基准测试成绩优异，在代码、Agent、数学推理任务表现突出，前端能力强，还能驱动 Claude Code，成本低。
前百川智能联创焦可新创业公司曝光，新项目已上线 App Store
前百川智能联创焦可新创业公司曝光，其推出的AI语音产品“来福”已上线App Store。该产品定位AI语音电台应用，探索声音交互场景，目前仅邀测。国内大厂未推专注AI播客独立产品。
Kafka 网络成本失控？如何彻底根除 AWS、GCP 上的 Kafka 网络隐性成本
云原生架构普及，企业将 Apache Kafka 部署到 AWS、GCP 等公有云，跨可用区数据传输成本成“隐形杀手”。AutoMQ 是新一代云原生 Kafka，100% 兼容 Kafka 协议，其“零成本复制”技术可降本，已在 GitHub 开源。
TRAE 如何思考 AI Coding ：未来的 AI IDE，是构建真正的「AI 工程师」
越来越多玩家涌入AI Coding赛道，TRAE作为国内首个AI Native的IDE有独特想法。其产品经理Leon认为未来是「AI+工具」模式，推出Solo模式，还分享相关思考、功能及场景，TRAE月活已超百万。
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
纳米 AI 梁志辉：超级搜索智能体是 AI 时代的真正入口
纳米AI梁志辉认为超级搜索智能体是AI时代真正入口。纳米AI推出的「超级搜索智能体」结合多Agent协作等能力，是新解决方案。演讲分享了360对AI搜索、智能体搭建及浏览器的看法与探索。
田渊栋：连续思维链效率更高，可同时编码多个路径，“叠加态”式并行搜索
AI大牛田渊栋团队利用连续空间“叠加态”让大模型并行推理，提升图可达性等任务表现，为连续思维链提供理论支持。还设计注意力选择器等机制，实验显示连续思维链模型准确率更高。此外，田渊栋还是科幻小说家。
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
抢先OpenAI？AIUI全新升级燃爆22亿终端，国内大厂定义智能交互
科大讯飞围绕智能交互场景，对AIUI、机器人超脑等4大平台全面升级。其AIUI以大模型为引擎，有儿童专属交互方案，还推出智能眼镜“三麦阵列”等，各平台在多领域应用成果显著。
80%到25%逆转！大模型代码能力最新排名：Anthropic不再是唯一的神？
OpenRouter网站有模型使用排行榜，按不同使用场景分类。2024年12月到2025年2月，Anthropic模型编程流量占比曾达80%，后谷歌Gemini 2.5 Pro等抢占份额，其跌至25%以下，Claude 4发布后份额回升。还介绍了OpenRouter特点。