搜索：推理加速技术

「推理加速技术」共找到 4894 篇相关文章

智谱 GLM-4.5 团队深夜爆料：上下文要扩、小模型在路上，还承诺尽快发新模型！

今日凌晨，GLM系列模型四位研发成员在Reddit的AMA活动中，回答了GLM系列技术细节、未来规划等问题。透露扩展上下文、推小模型是重点，还承诺尽快发新模型，也探讨了大模型发展观点。

阿里云峰会发布的Qwen 3.7 Max，在优化平头哥芯片推理内核任务中，35小时让推理速度快10倍。它在多基准表现出色，编程、推理、办公自动化全面开花，但闭源且实验室场景与现实有差距。

AI Impact Lab创始人探讨AI对技术岗位影响，提到AI公司熟悉技术岗、指标清晰等原因或致其先受冲击，调研显示AI未改变多数岗位但影响初级岗位招聘、模糊岗位边界，还对未来技术就业市场做了预测。

2026年1月8日，英伟达官网披露，基于Blackwell架构的推理软件栈升级，让混合专家模型（MoE）推理效率迎「阶跃式」突破，单GPU吞吐飙升2.8倍，显著降低推理成本。其通过软件针对性升级发挥硬件潜力，还进行多项优化。

CMU团队评估20多个大模型，发现只有强化学习（RL）训练的模型能将数学推理技能广泛迁移到其他任务，监督微调（SFT）训练的模型迁移有限甚至无迁移。研究还探索差异原因，表明RL微调更具优势。

论文指出文本无法精准表达空间关系，现有视觉语言模型（LVLM）在空间推理上是短板。ViLaSR让模型直接画图推理，经三阶段训练，在五大空间推理测试中表现出色，还开源资源，有望带来机器认知升维。

2025年11月5日，赛力斯在港交所挂牌上市，募资净额140.16亿港元。赛力斯上市旨在强化单独造车能力，70%募资用于研发。其魔方技术平台待完善，赛力斯居安思危，或为脱离华为做准备。

GitHub星标超28万的AI Agent开源项目OpenClaw，在周六与周日迎来两轮重量级更新，集中在模型能力、Agent架构、工程部署及安全机制四个方向。2026奇点智能技术大会将邀专家探讨其产业实践价值。

当地时间9月3日，特斯拉在奥斯汀启动Cybercab付费服务，该车无方向盘、刹车等。其成本约1.8万美元，远低于对手。不过，它面临监管和技术约束，目前投放规模小，未来发展待验证。

阿里通义实验室Qwen Pilot团队发布系列博客剖析大模型强化学习机制与局限，推出新算法FIPO。该算法引入Future - KL机制，解决‘推理长度停滞’问题，在多项测试表现优异，还介绍招聘信息。