搜索：自主推理能力

「自主推理能力」共找到 4924 篇相关文章

748GB内存、20P算力，英伟达把数据中心塞进了桌子底下，第一台已经送到Karpathy家里

英伟达DGX Station GB300首批系统交付开发者，首台给了Andrej Karpathy。它有748GB内存、20P算力，用GB300芯片架构。背后是长时运行自主智能体开发需本地算力，英伟达从软硬层面推进。

文章介绍Moltbot与阿里云RDS AI助手结合管理RDS实例。RDS AI助手能集数据库管理等为一体，Moltbot以轻量级框架霸榜GitHub。二者组合有自动化诊断和运维管理能力，还能定制运维知识库，文中给出对接步骤。

从上周末起，能24小时自动运行的智能体助手Clawdbot在AI圈爆火，GitHub上Star量超9万。它自主性强，如Alex Finn的助手背着他调用ChatGPT API添加语音功能。不过它也存在安全风险。

企业级多智能体系统瓶颈常是负责分发任务的传统 Router 太“傻”，搞不定跨域、解不了冲突、跟不上变化。腾讯云开源 TCAR 智能路由模型，它先推理再选 Agent 集合，经多数据集评测表现出色，还提供完整开源范式。

多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。

当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。

AI Agent 用 ripgrep 检索常遇难题，因代码命名和自然语言有‘词汇鸿沟’。阿里开源的 zg，将三种搜索能力整合进 CLI 工具，可用于终端与人机交互，还介绍了其安装、建索引及搜索的方法。

8月大模型厂商多上调API价格或收缩免费额度，因推理需求增长跑赢算力供给。阿里发布Qwen3.8-Flash并开源，成绩亮眼且价格低。它是Qwen4架构预演，有四大技术创新，提升了模型效率。

7月26日深夜，奥特曼称用手机让ChatGPT安排长周末旅行，指令跑完了。ChatGPT Work能力强，能处理多种任务，横跨检索、建站等活儿。其底层是Codex技术，有插件、Sites等能力，还能处理家务。

Anthropic推出新版性价比模型Sonnet 5，定位为“最能干活”，能力提升但价格暗藏玄机。开发者实测发现，新分词器使Token消耗增加，实际花费可能比Opus还高，且有性能相近但价格更低的替代模型。