「推理部署」共找到 2645 篇相关文章
从分钟级等待到20倍超速：LightX2V重写AI视频生成速度上限
今年，开源项目LightX2V在ComfyUI社区走红，单月下载超170万次。它是面向低成本、强实时视频生成的推理技术栈，能在消费级显卡上高效生成视频，还支持多种模型和硬件，覆盖不同用户需求。
Sea AI Lab 揭秘：你费尽心力调的 LLM 一直在崩溃？罪魁祸首可能只是一个参数：BF16
Sea AI Lab 和新加坡国立大学研究指出，强化学习微调中训练不稳定和性能瓶颈，根源是数值精度 BF16。其低精度造成“训练 - 推理不匹配”，使训练易失败。将精度切换到 FP16 可解决问题，提升模型表现。
开源！强效果，高性能，严隐私？我全都要：OPPO 终端大模型实践
OPPO AI 中心推出开源端侧多模态大模型 AndesVL，含 0.6B - 4B 四档尺寸套件，有通用能力强等优势。它经多阶段训练，OPPO 还构建端侧部署方案，评测显示其在多方面表现优异，未来会继续技术革新。
390亿美元，全球具身智能第一估值来了！英伟达持续加注中
与OpenAI分道扬镳后，Figure C轮融资获超10亿美元承诺资本，投后估值达390亿美元。资金将用于扩大人形机器人大批量制造与部署、搭建GPU基础设施、启动数据采集项目，助力具身智能发展。
内幕曝光：OpenAI模型坦承不会第六题，3人俩月拿下IMO金牌！
OpenAI三人团队俩月让AI达IMO金牌水平。他们用多智能体系统技术，使模型能短时间解复杂问题。新模型有自省能力，减少“幻觉”问题。此次突破是通用推理技术进步，未来将整合进更多模型。
最新12种GraphRAG技术全面评测
6月两篇论文对12种GraphRAG技术评测。GraphRAG通过构建图结构组织知识，在复杂推理等任务中优于传统RAG。不同GraphRAG技术在图构建、知识检索上表现各异，如RAPTOR图构建慢但令牌消耗少。
2026论文解读，ASAHI：自适应切片助力小目标检测，速度提升25%、精度创新高
高分辨率航空图像小目标检测难，传统检测器表现差。2026年4月都灵理工大学团队提出ASAHI，用自适应切片框架，在VisDrone2019上mAP50达56.8%，推理速度比SAHI提升20 - 25%，还介绍了实战代码等。
【梁文锋署名】DeepSeek再发新论文：75%思考+25%记忆，这是他们算出来的最优解
DeepSeek新论文《Conditional Memory via Scalable Lookup》提出Engram模块，指出大模型用计算模拟查字典是浪费算力，Engram能给模型装“记忆”，还发现参数分配呈U型缩放定律，推理和长上下文能力提升显著。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
DeepSeek-R1今天一次「小更新」，颠覆了大模型格局，网友：尽快放R2
昨晚，DeepSeek官方宣布其R1推理模型升级到最新版本（0528），并公开模型及权重。该版本参数量高达6850亿，采用MIT许可证，性能提升明显，在多个基准测试中成绩优异，网友实测代码能力也大幅提升，但仍存在过度思考问题。