「AI推理加速」共找到 11202 篇相关文章
开源SOTA！商汤原生多模态一个大脑完成看图、推理、作画
商汤开源日日新SenseNova U1，用NEO - unify架构让像素和文字自由协作，多项指标达开源SOTA，适配10家国产芯片。它能完成看图、推理、作画等多任务，虽有局限，但后续优化值得期待。
快手提出强化学习创新框架RLEP，突破大模型推理瓶颈
OpenAI等模型用强化学习提升推理能力，但面临训练不稳定等挑战。快手Klear团队提出RLEP框架，引入经验回放技术，分经验收集和回放训练两阶段，还采用优化策略，提升大模型训练效率和性能。
手机上实现AI视频实时生成，DiT模型上移动端
扩散变换器在视频生成任务性能强，但计算成本高，在手机上难实用。Snap提出创新优化法，加速视频生成，能在iPhone 16 Pro Max上每秒超10帧，不过也存在细节退化等局限。
年入103万美元！AI 独立开发者天花板！普通人应如何实践？
2026年初，法国独立开发者Marc Lou晒出2025年103万美元收入，他靠一人开发产品，利用AI工具快速迭代。他采用多产品矩阵、交叉推广等策略，也分析了中国独立开发者状况，给出入局建议。
AI 应用开发的破局之路：字节跳动 Eino 框架实践
在 InfoQ 举办的 QCon 全球软件开发大会上，字节跳动沈桐介绍 Eino 框架在组件抽象和业务编排的创新实践。该框架以大模型为基础，解决应用开发中节点、信息流转和沉淀框架的问题，还给出开发实例，展望了未来重点方向。
从云原生到 AI 原生：模型引发的新一代基础设施构建
本文整理自蚂蚁集团余锋在2025年QCon上海站的分享。回顾基础设施从云计算到AI原生的演进，指出模型成新数据库，基础设施围绕其构建，还探讨了Agent体系影响、通智一体趋势及面临的挑战与机遇。
基于AI大模型的故障诊断与根因分析落地实现
文章围绕基于AI大模型的故障诊断与根因分析展开，介绍项目背景、目标与原理，阐述要解决的运维痛点及技术架构、知识库构建，还提及ReAct模式实现、Dify工作流及ClaudeCode对比，目前根因定位成功率有所提升。
中兴发了一篇论文，洞察AI更前沿的探索方向
当大模型参数量冲向万亿级，AI 行业面临瓶颈。中兴通讯发布论文剖析困境，勾勒前沿方向。文中分析了 LLM 现状、架构瓶颈、AGI 争议等，还阐述了改进优化措施及下一代计算范式发展趋势，介绍了中兴的探索实践。
推理速度飙升5倍，苹果提出全新Multi-Token生成框架！
自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。
OpenAI野心爆棚！启动全球版“星际之门”，首批10个国家
今天凌晨，OpenAI官网宣布全新AI发展计划OpenAI for Countries，想为全球各国建类似“星际之门”项目，合作开发AI基建，提供定制版ChatGPT，改善多领域情况。