「智能体推理框架」共找到 5991 篇相关文章
刚刚！Thinking Machines Lab ｜ 长文揭开LLM推理不确定性真相！
Thinking Machines Lab发布《克服LLM推理中的不确定性》，揭示大语言模型推理不确定性原因，并非“并发 + 浮点”假设那么简单，主要是负载及batch size不确定所致，还给出让核函数有批次不变性的方法及实验结果。
十载磨「芯」：云天励飞冲击港股AI推理芯片第一股
7月30日，云天励飞向港交所递交H股上市申请，迈向“A+H”新阶段。它是中国首家实现国产高算力AI推理芯片商业化的公司，坚持“全自研、国产化”，现进一步聚焦AI推理芯片，构建“1+N”业务架构。
AAAI 2026 Oral｜LENS：基于统一强化推理的分割大模型
文本提示图像分割技术有战略意义，但基于监督式微调的方法有泛化能力瓶颈。为此引入LENS框架，采用强化学习机制，还介绍其架构、奖励机制，该框架在测试中表现优异，代码已开源。
CoT推理大溃败？哈佛华人揭秘：LLM一思考，立刻就「失智」
新研究揭示思维链CoT会分散模型「注意力」，使大模型推理时易出错。研究指出在需遵守指令任务中，用CoT推理模型准确率下降，还总结了四大模式，并提出四种缓解策略。
突发！OpenAI「掀桌」：自研推理芯片「墨西哥辣椒」跑赢英伟达
OpenAI公布自研推理芯片Jalapeño（墨西哥辣椒）测试结果，它专为大语言模型推理设计，能同时提升吞吐量和降低延迟，在多模型测试中超NVIDIA系统。该芯片与Cerebras合作，计划2026年底部署。
让AI评测AI：构建智能客服的自动化运营Agent体系
文章介绍智能客服发展，从传统机器人客服到基于AI原生的智能客服。重点探讨对话效果评测，搭建运营Agent平台，实现服务闭环。还提及评测落地方法、难题及解决措施，最后阐述AI在服务链路提效和分析转人工原因的作用。
加入Meta近一年，亚历山大王回应：超级智能之前，AI终局未定
亚历山大·王加入Meta近一年后携Muse Spark模型回归，回应诸多争议。他指出Llama 4发展不符要求，Meta缺超级智能信仰。介绍了Meta超级智能实验室架构原则，还谈到算力分层、模型福利等内容。
拆解腾讯智能体战略：自身验证，开放能力，生态放大 | 甲子光年
文章指出智能体成企业战略议题，但落地有场景复杂、知识专业和工程化挑战。腾讯云以全栈方案应对，用开发平台、行业适配和生态共建助力企业，多个行业已有成功落地案例。
腾讯混元AI Infra核心技术重磅开源：推理吞吐提升30%！
腾讯混元AI Infra团队开源生产级高性能LLM推理核心算子库HPC-Ops，基于生产环境痛点开发，降低底层算子开发门槛，实现显著性能突破。在真实场景下，混元、DeepSeek模型推理QPM提升，单算子性能也超越主流算子库。
基于OpenAPI和AI coding的上云智能体构建实践
文章介绍基于OpenAPI和AI coding构建上云智能体的实践。分析不同编程范式，结合AI coding发展与Multi - Agent问题，阐述构建方案，包括业务场景、构建方法、技术实现、当前效果及后续展望，还提及文档智能与RAG构建LLM知识库。