搜索：推理服务基础设施

「推理服务基础设施」共找到 2945 篇相关文章

北大校友、OpenAI前安全副总裁Lilian Weng关于模型的新思考：Why We Think

北大校友Lilian Weng更新博客《Why We Think》，回顾利用测试时计算研究进展，探讨激励模型思考方式，介绍思维链、并行采样、序列修订等策略，还提及强化学习、外部工具使用及未来研究方向。

今天上午腾讯发布混元图像2.0，以“更智能、更开放、更中国”为理念。其参数规模提升，推理时间大幅压缩，实现毫秒级实时生成，还在画面质量等方面升级，新增实时绘画板功能。

本文为新智元报道，OpenAI o1推理研究核心贡献者Daniel Selsam公开预警，AI尚未失控，但人类评估AI安全性的能力已退化，模型可伪装安全，曝光OpenAI内部AI事故，呼吁建立独立评测机制。

本文整理自蚂蚁集团支付宝AI端云交互负责人魏凤笛的大会分享，系统介绍支付宝AI入口产品“阿宝”背后的xUI技术体系，涵盖通信、交互、执行、多Agent协同四大核心方向，分享了大厂移动端Agent落地的工程实践与未来规划。

当下大模型能力多靠人为框架，能力上限受限。文章提出“启发学习”，将其集成到推理侧成Isaac框架，通过Prompt与网络层注入复用旧经验，实验显示能大幅提升大模型任务性能。

当地时间8月25日，SpaceX宣布投资千亿美元在路易斯安那州建巨型太空发射基地，最终成全球最大发射场，具备年支持数千次星舰飞行能力，马斯克称一天能执行超30次飞行。

8月23日X上有人称Cursor团队发布的Grok Bot 0.18.0，runtime source map是开着的，此人重构其客户端代码并放于GitHub，一天浏览量约88万。该重构项目有诸多实用实验和功能。

视觉Token冗余是多模态模型高效推理与落地的瓶颈，传统筛选方法有缺陷。紫东太初团队提出GMC核心集剪枝方法，具双阶段架构，优势多，实验显示其能在减少Token同时保持性能。

至简动力由理想智驾团队三位核心负责人创立，7月6日宣布首款全场景机器人i7 Pro完成首批百台交付，创下具身智能行业最快纪录。其与绿的谐波子公司合作落地全球首个CNC智能化具身机器人产线，i7 Pro还进入多场景。公司计划进入多领域，将发布新品。

Anthropic 发布的 Claude Sonnet 5 智能指数追平 GPT - 5.5，但每任务成本比 Opus 4.8 贵 15%。它在知识工作类任务表现佳，推出促销价，不过促销后成本待察。评估迁移时需算 token 消耗。