「AI推理加速」共找到 11202 篇相关文章
刚刚，OpenAI Astra核心架构爆出：大模型第三条Scaling法则诞生
The Information记者爆料OpenAI即将推出的Astra模型采用“recurrent depth”新推理方法，该技术能降本提效，但引发AI安全与可观测性担忧。清华与字节论文解决了循环模型“算力不公平”问题，并给出Scaling Law。
大模型是不是到顶了？瓶颈到底在哪
文章探讨大模型是否到顶，指出‘到顶’争论分三个问题，靠堆大模型提升能力之路变平，受数据和成本约束。但大模型还有后训练和推理时计算两个发展方向，未来进步或来自更会用算力。
硬刚Sora2，万相2.6轻松定制角色、控制分镜，普通人也能当导演
2025 年视频生成领域发展迅猛，OpenAI 的 Sora 2 带来新玩法，商业落地加速，但普通用户体验门槛高。12 月 16 日阿里发布万相 2.6 系列模型，功能全面升级，实测效果惊人，标志 AI 视频生成迈向精准可控新阶段。
哈佛CS博士月入4000，抢GPU搞科研！硅谷百万年薪挖人，学界疯狂逃离
AI人才大战使学术界陷入危机，博士生津贴低、抢显卡搞科研，面对硅谷百万年薪和大厂千亿算力投入诱惑，加速流向产业。教授担心学生跳槽，高校补救难，产业还推出“折中方案”，学术界考验才刚开始。
苏妈联手OpenAI，AMD发布3nm怪兽MI355X，性能碾压英伟达B200！
AI芯片战争白热化，AMD在大会发布3nm工艺的MI355X，推理性能超英伟达B200，还公布明年推出的MI400系列等新品。OpenAI CEO称将用AMD芯片，AMD与OpenAI开启合作。
李飞飞自曝详细创业经历：五年前因眼睛受伤，坚定要做世界模型
在a16z播客节目中，“AI教母”李飞飞讲述创业经历。五年前眼伤失立体视觉，让她意识到其对空间交互的决定性作用。她认为真正通用智能需理解物理世界，与Martin Casado一拍即合创立World Labs，加速世界模型突破。
CUDA再见了！寒武纪亮出软件全家桶
在AI时代，竞争转向软件生态等综合实力。寒武纪亮出软件全家桶，其基础软件平台Cambricon NeuWare日趋成熟。在训推解决方案上成果显著，各组件如驱动、编译器等也有诸多优化和功能，加速产业智能化转型。
供需失衡的窗口期里，商汤大装置把国产算力做成了正毛利生意
WAIC期间，商汤大装置举办AI基础设施论坛，展示国产算力成绩单，将国产芯片业务毛利率做到正数。其通过异构混合推理等操作方法论，提升芯片利用率，还在多领域合作，虽红利或收窄，但方法论有长期价值。
Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI 发布 2.4B 参数量的视觉语言模型 Jina-VLM，在多语言视觉问答任务达 SOTA。它引入注意力池化，连接视觉与语言基座，支持 29 种语言，能高效处理问答等任务，对硬件需求低。
伯克利神作背刺OpenAI：持续学习才是真神！
伯克利等机构发布FST框架，通过快慢分层解决大模型持续学习死局。过去两年头部实验室都在提升模型推理能力，却忽视持续学习。FST让模型像大脑一样快慢分层，提升数据效率、减少遗忘，使持续学习可工程化。