「推理性能优化」共找到 4188 篇相关文章
老黄开年演讲「含华量」爆表！直接拿DeepSeek、Kimi验货下一代芯片
2026 CES科技盛宴上，老黄PPT燃爆AI圈，DeepSeek与Kimi位列C位。老黄用它们验货下一代芯片，实测显示性能提升显著。中国开源AI表现惊艳，在国际评测中成绩优异，正推动AI应用全面爆发。
AI玩具和AI眼镜爆火，端侧市场或将超越云端？
当下AI难形成商业闭环，端侧AI或为落地答案。芯原股份戴伟民看好端侧AI市场，认为未来端侧推理需求或超云端训练，还指出AI眼镜、玩具、智能汽车等增量市场，同时介绍了芯原布局。
HAMi × NVIDIA：GPU 拓扑感知调度实现详解
HAMi社区在v2.7.0版本推出针对NVIDIA GPU的拓扑感知调度功能，解决多卡通信瓶颈。文章深入剖析其设计与实现原理，介绍核心特性、阶段及代码，用双策略寻优算法保障性能与资源健康。
State of AI 2025：霍桑效应下，AI 是「赚钱机器」还是「泡沫机器」？
Air Street Capital发布2025年度《State of AI Report》，证实AI成重要经济增长动力，但技术突进伴随矛盾。报告提及AI推理能力有‘霍桑效应’，或成泡沫，不过AI - first公司商业化加速，付费工具采用率和合同价值飙升。
三大核心创新公开，快手开源多模态Keye-VL 1.5拿下视频理解SOTA，8B力压GPT-4o！
快手开源多模态Keye-VL 1.5，为8B视频理解大模型，公开3大核心创新技术。靠Slow - Fast视频编码等，在20 + 基准屠榜。它能精确视频定位，实验显示通用、视频理解和数学推理表现佳。
Claude不让我们用！国产平替能顶上吗？
全球AI代码生成竞争格局生变，Anthropic地位动摇，一是OpenAI GPT - 5崛起，二是自身迷之操作。此时国产大模型发力，如Kimi - K2 - 0905、Qwen3 - Max - Preview，性能和价格有优势，有望改变竞争格局。
GPT-5最大市场在印度？Altman最新访谈：可以聊婚姻家庭，但回答不了GPT-5为何不及预期
2025年8月8日OpenAI发布GPT - 5引热议。个人消费者多有不满，反馈体验差、性能不强；企业级市场却很欢迎，多家公司已采用。Sam Altman在访谈谈其特性，还聊了职业、家庭、AI发展等话题。
腾讯的这款AI数据智能体工具Lumos，颠覆了传统的数据分析
文章聚焦腾讯AI数据智能体工具Lumos，它是Tomoro的数据智能体，采用多智能体架构解决复杂问题。文中介绍其技术思路、实践方案，如解决多智能体一致性、提升查询响应等，还提及后续优化方向。
全球首个人形机器人通用视觉感知系统，Humanoid Occupancy建立多模态环境理解新范式
北京人形机器人创新中心推出 Humanoid Occupancy 感知系统，创新性融合多模态传感器信息，构建通用感知框架。它以语义占用表征为核心，有全编码和适配融合优势，经实验验证性能优，推动机器人迈向通用感知时代。
重塑注意力机制：GTA登场，KV缓存缩减70%、计算量削减62.5%
GTA由多所高校联合研发，提出大模型框架，解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示，削减计算量、缩减KV缓存，实验验证其性能优、效率高，虽有局限但前景好。