「高效推理框架」共找到 3722 篇相关文章
让YOLO飞起来：从CPU到GPU的配置指南
文章指出默认安装的YOLO用CPU计算，处理大量图像或实时检测任务效率低。详细介绍将YOLO从CPU模式切换到GPU模式的步骤，对比性能，还给出常见问题解决办法，能显著提升运行效率。
国产大模型新SOTA：蚂蚁万亿级旗舰模型赶超GPT-5
蚂蚁集团开源万亿参数旗舰大模型Ling-1T，属Ling 2.0家族。它激活比例低降低运算成本，训练有“Ling缩放定律”等方法，多项测试超主流模型，不过处理超长上下文成本较高。
Spring AI Alibaba实践｜后台定时Agent
文章参考Langchain，探讨Agent新运行形态，Spring AI Alibaba（SAA）为开发提供框架。介绍自主运行Agent优势、适用场景，说明构建方法，还给出店铺经营分析和评价舆情分析两个实践案例代码。
首家AIOS落地来自vivo：个人化智能复刻人类思维，手机还能这样用
2025年vivo开发者大会展示全新端侧AI能力，提出蓝心3B端侧多模态推理大模型，融入OS底层，实现系统级智能。其AI OS打造“个人化智能”体验，还开放生态，携手开发者推动AI应用落地。
Google封神，计算机视觉的GPT3时刻来了！
Google Deepmind称在CV领域做出类似GPT-3的成果，Veo 3经大规模训练涌现通用视觉理解和推理能力，能以图片+提示词完成复杂视觉任务，还具备感知、建模等四大超能力。
AI芯片烧到1000W！碳化硅成 “救命稻草”
碳化硅性能优于传统硅基器件，已用于新能源等领域。AI算力爆发，它成破解高功耗芯片散热难题、支撑数据中心能效升级核心材料，产业链上游及技术领先企业将长期受益。
突发！Meta刚从OpenAI挖走了清华校友宋飏
刚刚，OpenAI前高层研究员宋飏加盟Meta Superintelligence Labs任研究负责人，向赵晟佳汇报。此次人事流动或透露出Meta在AI竞赛中释放的三重信号，如MSL人才拼图更完整等。
马斯克转发字节Seed&哥大商学院新基准：大模型搞金融，连查个股价都能出错
字节跳动Seed团队与哥大商学院推出开源金融搜索与推理基准测试FinSearchComp，含635个问题。评测显示大模型处理金融任务有差距，凸显金融AI能力评估重要性，还揭示了关键能力差距。
谁在重新定义 AI 云？
过去几年，AI成云计算行业统一叙事，但厂商口号趋同，差异化消解。当下AI从“炫技”走向“应用”，华为云在全联接大会2025上提出新组合，回应行业成本、基建和应用难题，不过路径也面临挑战。
社区供稿丨揭秘端到端文档OCR模型 POINTS-Reader
腾讯开源端到端文档OCR模型POINTS-Reader，论文被EMNLP 2025主会录取。它提出可扩展数据生成方案，具简洁、性能好、高吞吐量等特点，通过两阶段训练方案解决依赖蒸馏数据问题，在多基准测试表现佳。