「推理算力」共找到 2714 篇相关文章
从分钟级等待到20倍超速：LightX2V重写AI视频生成速度上限
今年，开源项目LightX2V在ComfyUI社区走红，单月下载超170万次。它是面向低成本、强实时视频生成的推理技术栈，能在消费级显卡上高效生成视频，还支持多种模型和硬件，覆盖不同用户需求。
Sea AI Lab 揭秘：你费尽心力调的 LLM 一直在崩溃？罪魁祸首可能只是一个参数：BF16
Sea AI Lab 和新加坡国立大学研究指出，强化学习微调中训练不稳定和性能瓶颈，根源是数值精度 BF16。其低精度造成“训练 - 推理不匹配”，使训练易失败。将精度切换到 FP16 可解决问题，提升模型表现。
内幕曝光：OpenAI模型坦承不会第六题，3人俩月拿下IMO金牌！
OpenAI三人团队俩月让AI达IMO金牌水平。他们用多智能体系统技术，使模型能短时间解复杂问题。新模型有自省能力，减少“幻觉”问题。此次突破是通用推理技术进步，未来将整合进更多模型。
最新12种GraphRAG技术全面评测
6月两篇论文对12种GraphRAG技术评测。GraphRAG通过构建图结构组织知识，在复杂推理等任务中优于传统RAG。不同GraphRAG技术在图构建、知识检索上表现各异，如RAPTOR图构建慢但令牌消耗少。
2026论文解读，ASAHI：自适应切片助力小目标检测，速度提升25%、精度创新高
高分辨率航空图像小目标检测难，传统检测器表现差。2026年4月都灵理工大学团队提出ASAHI，用自适应切片框架，在VisDrone2019上mAP50达56.8%，推理速度比SAHI提升20 - 25%，还介绍了实战代码等。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
一文看懂英伟达的产品体系和命名规则
文章由小枣君撰写，详细梳理英伟达产品体系和命名规则，涵盖算力芯片、超级芯片、超级计算机平台等，介绍各层级产品特性，还提及通信技术、开发框架CUDA，助读者清晰了解英伟达产品。
DeepSeek-R1今天一次「小更新」，颠覆了大模型格局，网友：尽快放R2
昨晚，DeepSeek官方宣布其R1推理模型升级到最新版本（0528），并公开模型及权重。该版本参数量高达6850亿，采用MIT许可证，性能提升明显，在多个基准测试中成绩优异，网友实测代码能力也大幅提升，但仍存在过度思考问题。
大模型如何"不训练"也能学习？——上下文学习的隐式权重更新机制
大型语言模型能通过上下文学习（ICL）在推理时即时学习新任务，无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新，解释了ICL原理，为构建AI系统开辟新路径。
3亿美元薪酬被10人拒绝！OpenAI首席研究官一句话引发硅谷史上最疯狂抢人大战
据华尔街日报爆料，Meta小扎开出3亿美元“挖人费”，至少10位OpenAI员工拒绝。OpenAI首席研究官Mark Chen一句话引发抢人大战。Meta超级团队44人中，40%来自OpenAI，50%是华人。小扎承诺算力管够，逼得OpenAI将上线100万个GPU。