「推理加速技术」共找到 4926 篇相关文章
供需失衡的窗口期里，商汤大装置把国产算力做成了正毛利生意
WAIC期间，商汤大装置举办AI基础设施论坛，展示国产算力成绩单，将国产芯片业务毛利率做到正数。其通过异构混合推理等操作方法论，提升芯片利用率，还在多领域合作，虽红利或收窄，但方法论有长期价值。
OCR又出宠OpenDoc，速度超MinerU6倍
复旦开源的OpenOCR是面向通用OCR任务的开源平台，其OpenDoc是超轻量文档解析系统。它采用Pipeline模式，两阶段解析不易放大误差。UniRec - 0.1B有独特架构与分层监督训练等创新技术。
WhisperLiveKit：本地同步实时语音转文字
实时语音转文字难题待解，现有方案各有缺陷。WhisperLiveKit项目用前沿同步语音技术解决问题，支持多语言同步翻译、实时说话人识别等，还介绍了安装、部署方式，不过效果受语言和模型等因素影响。
95% 企业 AI 落地失败当下，另外 5% 的 CIO 在谈什么？
文章指出 95% 企业 AI 落地失败，痛点在于认知难对齐、技术业务错配、价值度量模糊、数据底座不佳。阿里云蒋林泉等 CIO 探讨解法，提出 RIDE 方法论，还分享太古可口可乐、顺丰等企业的 AI 落地经验与智慧。
Sea AI Lab 揭秘：你费尽心力调的 LLM 一直在崩溃？罪魁祸首可能只是一个参数：BF16
Sea AI Lab 和新加坡国立大学研究指出，强化学习微调中训练不稳定和性能瓶颈，根源是数值精度 BF16。其低精度造成“训练 - 推理不匹配”，使训练易失败。将精度切换到 FP16 可解决问题，提升模型表现。
讲习班日程公布｜第四届全国大模型智能生成大会（LMG 2025）
第四届全国大模型智能生成大会（LMG 2025）11月1 - 3日在成都召开，预计超千人参会。11月3日的讲习班邀请四位青年专家，围绕AI基础设施、扩散语言模型等前沿议题，分享技术进展与实战经验。
这些关于研发提效的深度实践分享，值得每一位开发者关注 | AICon
6月27 - 28日AICon北京站上，多位大厂技术大牛将分享“AI赋能研发提效”经验。如丁宇介绍AI编程范式革新，张乐分享腾讯代码智能化实践，还有同程、百度、网易游戏相关人员分享研发提效经验。
开箱即用、本地安全、多 Agent 协同解决方案！
过去一年，Agent热度高，但企业应用面临算力、安全和部署门槛。5月22日浪潮信息推出元脑智能体工作站Z3，整合大模型本地推理等功能，解决本地多Agent运行问题，降低使用门槛，保障安全。
2026论文解读，ASAHI：自适应切片助力小目标检测，速度提升25%、精度创新高
高分辨率航空图像小目标检测难，传统检测器表现差。2026年4月都灵理工大学团队提出ASAHI，用自适应切片框架，在VisDrone2019上mAP50达56.8%，推理速度比SAHI提升20 - 25%，还介绍了实战代码等。
我拥有了超能力！Meta最牛文科生让3个AI互掐，竟造出1人技术部
Meta产品经理Zevi Arnovitz零技术基础，借助Cursor和Claude治愈代码恐惧。他分享经历，用管理团队方式管理AI，建立开发流，还让AI互审代码。AI正让普通人构建未来，职场需全能构建者。