「显存瓶颈」共找到 665 篇相关文章
专为“超大模型而生”，新一代训练引擎 XTuner V1 开源！
9月8日，上海AI实验室开源书生大模型新一代训练引擎XTuner V1。它能应对复杂训练场景、速度更快，尤其在超大规模稀疏混合专家（MoE）模型训练中优势显著。还将一并开源AIOps工具DeepTrace与ClusterX。
不拼参数，拼认知：工业AI的边界与深水区 | 甲子光年
如今AI渗透工业各环节，形成“大小协同”格局，但面临场景复杂、数据孤岛等挑战。西门子凭借深厚积累构建工业体系，其Industrial Copilot等产品落地中国，还自研基础模型突破瓶颈，围绕‘AI for Real’理念布局。
英伟达GPU被曝严重漏洞，致模型准确率暴跌99.9%
英伟达GPU被白帽黑客发现严重漏洞，通过GPUHammer攻击可使大模型准确率从80%降至0.02%。此攻击属Rowhammer类，直接对显存“物理动手”。英伟达建议的防御措施会使模型性能下降。
基于闪电注意力机制，创新高效开源大模型
传统Transformer架构处理长文本和复杂推理任务有效率瓶颈，多数领先模型仍依赖传统注意力设计。MiniMax开源基于闪电注意力机制的专家混合模型Minimax，从架构、创新模块、训练框架等多方面优化，表现突出。
如何将LLM的"思考习惯"迁移到视觉领域？
传统多模态模型处理复杂视觉推理能力不足，OVR团队以Qwen2.5 - VL - 7B为基础构建开源强化学习框架，成果模型OVR在12个基准测试刷新记录，揭示认知行为跨模态迁移三条黄金定律。
10项评测痛打GPT-4o！智源重磅开源全球最强具身智能大脑
近日，智源研究院开源具身大脑RoboBrain 2.0 32B版本和跨本体大小脑协同框架RoboOS 2.0单机版。RoboBrain 2.0在多项权威具身智能基准上刷新纪录，RoboOS 2.0创新性集成MCP协议与无服务器架构，二者双擎联动推动机器人迈向群体智能。
Anthropic CPO：AI写9成代码后，我们迎来了新噩梦！
本文是对Anthropic CPO Mike Krieger的播客访谈。他谈到AI重塑软件开发，约90%代码由AI编写；还分享产品经理价值、Anthropic战略、Artifact关闭原因等，对AI认知从工具变为战略伙伴。
什么！我把SQL编辑器装进了大模型？
文章介绍基于约束解码技术，结合CFG、Jinja模板和XGrammar框架，为大模型SQL生成配备“编辑器”。它能保证语法正确、遵循规则，还具灵活性。但面临约束干扰和性能瓶颈，未来可简化配置惠及更多用户。
AI for Science开始“动手”了：机器人正式走进国家级实验室
今年7月，国家级科研平台实验室迎来首批Monte2人形机器人，由源络科技与实验室联合研发。它能完成复杂实验操作，缓解人工瓶颈。全球自主实验室成趋势，源络发起“原点计划”推动AI for Science迈向实验室3.0。
冷战核废墟变8吉瓦AI超级工厂！黄仁勋押15亿，OpenAI独霸20年
英伟达、OpenAI和软银要将美国俄亥俄州冷战核废墟改造成全球最大AI超级工厂，终极电力规划达8吉瓦。黄仁勋宣布注资、担保，OpenAI签长约，孙正义改造电网，这或成稳赚买卖。