「硬件瓶颈」共找到 1061 篇相关文章
如何在24GB显存里，塞下一个万亿参数的巨兽？KTransformers入选顶会SOSP
清华大学与趋境科技联合研发的KTransformers系统，可让消费级显卡跑万亿级参数模型，其论文入选SOSP 2025。该系统解决MoE模型本地部署难题，技术创新多，还与SGLang合作，提升硬件利用率。
开启RL Scaling新纪元，siiRL开源：完全分布式强化学习框架，支持超千卡规模高效训练
传统强化学习框架在模型和集群规模达上千块GPU时，存在扩展性瓶颈和效率低下问题。上海创智学院团队推出siiRL，采用全分布式架构和多控制器范式，解决传统框架痛点，在多方面验证了其高性能。
刚刚，翁荔博客又上新：通过Harness工程实现AI自我提升
翁荔新博客聚焦Harness Engineering，梳理围绕‘Harness自我优化’的研究，探讨递归式自我提升发生层面，还指出自动化研究和自我提升系统面临的瓶颈，如评估标准模糊、奖励作弊等。
Ilya罕见发声：大模型「大力出奇迹」到头了
Ilya大神在近2万字采访中称，AI正从「规模时代」走向「科研时代」，主流「预训练 + Scaling」路线遇瓶颈。他还探讨了AI泛化、安全对齐、预训练范式等热门话题，给出独特见解。
上海AI实验室发布 Intern Lumina U2：全离散扩散建模，让模型既能“看懂”也能“生成”
上海人工智能实验室发布新一代多模态统一模型 Intern Lumina U2，基于全离散扩散建模路线，支持多任务，适配两大硬件生态，在昇腾千卡级集群训练效率提升 1.85 倍，性能优异且将开放资源。
专访｜两位华人主导创办，Jeff Dean参投，伯克利开源项目SkyPilot转型初创
前沿模型团队算力瓶颈从不足变为分散，开源AI算力调度项目SkyPilot应运而生。7月末，它从高校走出成为初创公司，完成2000万美元种子轮融资。其免费版与商业版各有侧重，切入AI编排赛道潜力大。
什么样的龙虾，才是「一人公司」的心头好？
AI时代，OPC概念火热，但过往大模型和Agent难落地。面壁智能官宣EdgeClaw Box，采用端云两栖架构，安全高效，适配多款硬件，可插电即用，还能降成本、保障数据安全，集成多种Skills，助力OPC提效。
扎克伯格的豪赌初见成效？Meta新方法让LLM长上下文处理提速30倍
Meta Superintelligence Labs提出REFRAG高效解码框架，解决LLM长上下文输入效率瓶颈。它通过四步流程优化解码，让首个token生成时间加速达30.8倍，扩展上下文，且精度不降反升，不过价值待实际检验。
有一说一，老周还真的挺懂 Agent 的
360 AI 发布会，老周回应市场部一事，称是让员工养成用 AI 习惯。他懂 Agent，认为其将成 AI 应用标准形态，360 从搜索切入，推出纳米 AI 超级搜索智能体，还发布两款 AI 硬件。
看一眼代码就中毒？Clawdbot惊现隐形越狱，AI工具变黑客
Clawdbot多次改名仍火爆，斩获10万GitHub星标。它适应性强，低配置硬件也能运行，可用于多种应用。但它自主性强，能自我完善、赚钱，也带来安全风险，如隐形越狱植入恶意代码。