搜索：推理加速技术

「推理加速技术」共找到 4926 篇相关文章

30人团队震撼英伟达！Jim Fan自曝三个教训，重押世界模型

英伟达Jim Fan带队创立GEAR实验室，30人团队产出惊人，涵盖机器人学习完整技术栈。团队有GR00T基础模型等成果，Jim Fan还分享三个教训，重注视频世界模型，提出仿真世界三阶段，指出物理AI未来是新基础设施。

消费级显卡跑大模型训练门槛再降，Unsloth AI的FP8精度强化学习方案让Qwen3 - 1.7B的GRPO训练只需5GB显存且性能无损。该方案与TorchAO合作，有推理优势，还在内存优化等方面表现出色。

博主用11个场景深度测试昆仑万维的Skywork R1V4 - Lite，它能做到Gemini 2.5 Pro才能干的事，速度快、成本低。在定位、人物识别、生活实用、专业鉴定、学术研究等场景表现出色，核心突破在于主动图像操作与深度推理。

7月17日，2026世界人工智能大会在上海开幕。与往届不同，今年大会更多展示具身智能在真实场景的应用。硬件迭代、软件与数据突破，让泛化能力和任务执行成功率显著加强。现场还呈现模型四条技术路线、数据基建等趋势。

华为半导体业务部总裁何庭波提出韬（τ）定律，引发市场热议。文章从多层面剖析，介绍其核心、与摩尔定律差异，分析技术突破与包装话术，探讨全球产业链影响、国内板块格局及估值，还给出分析框架与观察要点。

Roto定位是全球首个互动开放世界视频平台。创始人David Xu曾就职独角兽企业，涉足多模态生成。团队经多次方向调整，决定大胆探索极致创新。目前产品技术不成熟，但已探索新内容形式，还将在广告实现商业闭环。

快看漫画2.0版本推出AI陪伴互动漫画，将AI嵌入漫画角色，玩家以第一视角改写故事。它解决了AI陪伴产品痛点，靠共同经历和叙事上下文存续关系，还集成多家AI技术，内测数据显示有商业潜力。

Meta此次裁员引发诸多争议，工作超十年的田渊栋整组被裁。有说法称是因没做出基于Llama 3的推理模型，但田渊栋否认。Llama 4.5训练好后团队被裁，且后续还将裁风控部门。不过田渊栋获多家公司青睐。

智谱AI上线AutoGLM，这是全球首个手机通用Agent，能让AI操作手机完成复杂任务。其技术架构强大，在多方面表现优异，与其他AI助手相比优势明显，还推出情感语音模型GLM - 4 - Voice，正推动大模型落地AI手机。

北京时间昨日凌晨，OpenAI 公布自研推理芯片 Jalapeño 实测结果，其在多指标挑落英伟达 GB300。OpenAI 用 GPT - 6 和加强版 Codex 造芯，9 个月完成硬件设计优化，3 个月搞定软件栈，威胁英伟达 CUDA 根基。