「混合推理架构」共找到 3646 篇相关文章
Thinking Machines 发布 Tinker API，实现灵活的模型微调
Thinking Machines公司发布Tinker API用于开放权重语言模型微调，可减少开发者基础设施开销。支持多种模型架构，集成LoRA，还发布开源存储库。虽有竞品，但Tinker侧重暴露低级原语，尚处封闭测试。
对话张笑宇：一个科技史学者选择成为“AI降临派”｜甲子光年
科技史学者张笑宇成“AI降临派”。他以“人类当量”和成本说明人类与AI的能力代差，提出全新治理架构，还谈AI应用困境、情感陪伴风险等，认为人类要与AI商定未来。
DevProxy 0.28 发布，增加 AI 支持
微软发布 DevProxy 0.29 命令行工具，新版本增加 AI 支持，便于配置使用。它能模拟 API 及网络行为，结合 dev tunnels CLI 可检查云服务通信，还利用大模型生成文件，有重大架构变更等。
被 AI 大厂逼至绝望，这帮欧洲人发起了一场“科学复兴运动”
AI前沿成果被科技巨头锁在“黑箱”，欧洲科学家、工程师等发起“科学复兴运动”成立LAION。他们构建开放数据集，训练出表现优异的模型，还进行“爱丽丝梦游仙境”研究测试大模型，探讨推理模型发展方向。
2025年哪款模型最受欢迎？Poe最新报告：DeepSeek降温、可灵成黑马
AI工具聚合平台Poe发布2025年1 - 5月人工智能模型使用趋势报告。显示模型市场份额消长明显，推理模型势头正劲，图像、视频、音频生成领域各有竞争态势，如DeepSeek降温，可灵成视频生成黑马。
AI Infra进阶：如何让大模型输出确定的结果
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略，因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响，给出vLLM实现Batch Invariance的方法。
Agent 的 Token 账单怎么省？
AI 行业从生成式能力向 Agent 行动力跃迁，核心矛盾转向推理成本可控性。随着企业将 Agent 编入自动化流水线，Token 消耗受关注，业界开始聚焦以「降本」为核心的技术路线。
李建忠对话菲尔兹奖得主Timothy Gowers：整个数学研究的范式将被AI改变
奇点智能研究院院长李建忠与菲尔兹奖得主Timothy Gowers对话，探讨AI与数学研究的十个话题，涉及数学重塑AI、AI推理能力、自动形式化、数学研究未来及AI对数学教育的影响等。
谷歌AGI底座降临！首个原生全模态嵌入模型上线，已实现全模态SOTA
谷歌发布首个原生全模态 Embedding 模型 Gemini Embedding 2，将文本、图、音视频及 PDF 融于统一向量空间，实现跨模态检索，降低架构成本，赋予 AI 连贯「记忆」，是重塑 AI 基建的里程碑。
全景视觉的Depth Anything来了！Insta360推出DAP，200万数据打造全场景360°空间智能新高度
Insta360等团队推出全景度量深度基础模型DAP，构建200万量级全景数据引擎，设计三阶段伪标签管线，在模型架构上也有创新，在多项测试中效果优异，项目代码与模型已开源。