搜索：推理加速技术

「推理加速技术」共找到 4926 篇相关文章

对话港理工吕佳欣：如何将一项实验室成果变成一条6500吨级的生产线？

文章是对港理工吕佳欣的访谈，围绕多筒挤压技术展开，探讨从实验室到产业化的过程、挑战及应对方法，还提及工业AI在制造领域的应用，如数据处理、经验转化等，强调科研与工程相互促进。

华为GTS研发部AI数据团队提出EDCO方法，将样本难度估计与动态课程编排引入领域大模型微调。该方法用推理熵动态编排训练课程，让模型面对最有学习价值的样本，已被ICML 2026接收。

pdf2skill技术是“文档转技能编译器”，能将PDF知识转化为AI可调用技能包。它解决了计算机视觉研究和工程中的痛点，介绍了原理、实战案例、代码实现，还对比性能、给出使用指南。

为换回注意力，OpenAI紧急发布GPT - 5.1 Codex Max。它在编程测试中表现优于Gemini 3 Pro，还实现24小时项目级开发。引入自动压缩与扩展推理改进，效率提升，现已多途径可用，API访问将开放。

阿里云与北大合作，由CTO周靖人带队的研究提出GPU池化系统Aegaeon，亮相顶会SOSP。它用token级自动扩缩容技术，将GPU使用量从1192个减到213个，提升了资源利用率，还在百炼平台测试成功。

近日，字节跳动Seed团队发布「机器人大脑」Robix，它将推理、任务规划与人机交互整合到单个端到端多模态模型。通过层次化架构分工，它能灵活互动，经三阶段训练，在多方面表现出色，为具身智能体发展奠基。

国产毫米波雷达发展十年，从荒芜走向红海。承泰科技主营毫米波雷达，受价格战影响，售价和毛利率下降。毫米波雷达优缺点明显，曾被特斯拉抛弃，后4D成像雷达技术突破、成本下降，市场需求分化，国内公司借机遇崛起。

港科广和腾讯研究团队提出CausalMACE方法，将因果推理机制引入开放世界多智能体系统。该方法含全局因果任务图，框架分“判断”“规划”“执行”环节，在基准任务中表现出色，已中稿EMNLP 2025 Findings。

SGLang宣布重大更新，聚焦openai/gpt - oss - 120b模型深度性能优化与新功能。预填充和解码阶段吞吐量显著提升，支持多GPU，有推测解码等功能，还支持智能体应用程序，且不损害模型推理能力。

外媒曝出OpenAI打响挖人反击战，从特斯拉、xAI、Meta挖来四位技术大牛，将入职Scaling团队。此前奥特曼称自扎克伯格从OpenAI挖人后，就再没和小扎说过话，这场混战还未停歇。