「GPU部门」共找到 494 篇相关文章
50FPS、成本打掉70%,魔芯MoWorld把世界模型带进产业时代
近期,魔芯科技联合浙江大学潘云鹤院士、华为等发布实时交互世界模型MoWorld,推理速度超50FPS,部署成本仅为同规模GPU方案的30%。它全链路优化,将用于多行业,魔芯也完成亿元美金融资。
突发!Meta砸数百亿收购Manus,肖弘将出任 Meta 副总裁
北京时间12月30日,Meta宣布全资收购新加坡AI初创公司Manus,金额达数十亿美元。Manus创始人肖弘将出任Meta副总裁,其核心技术团队并入Meta AI部门。这揭开了Meta豪赌AI的野心,也标志智能体赛道进入‘巨头收割期’。
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型,还生成量化版本并上传。介绍使用方法、注意事项,经测试推荐IQ3_S或IQ3_M版配合定制工具。
开启RL Scaling新纪元,siiRL开源:完全分布式强化学习框架,支持超千卡规模高效训练
传统强化学习框架在模型和集群规模达上千块GPU时,存在扩展性瓶颈和效率低下问题。上海创智学院团队推出siiRL,采用全分布式架构和多控制器范式,解决传统框架痛点,在多方面验证了其高性能。
是的,LeCun要向28岁的Alexandr Wang汇报!这是Meta新AI团队的一些独家内部消息
Meta强势挖人组建新AI研究部门MSL,引发诸多关注与猜测。Meta员工出面澄清一些说法,还透露人员调动信息,如Yann LeCun向Alexandr Wang汇报。此外,Meta内部面临动荡,有员工抱怨改革侵蚀公司文化,阻碍AI发展。
AI工具的真相与幻象:从客服看AI应用的理性边界
文章以某科技公司AI产品部门负责人张文的经历为例,讲述AI客服系统失败、AI编程助手成功的情况,指出AI应用存在期望与场景不匹配问题,还探讨了AI落地转变及组织搭建难题与解决办法。
OpenAI前团队创业内乱,CTO泄密竞对遭开除!翁荔火速发文
前OpenAI首席技术官Mira Murati创办的Thinking Machines Lab迎来人员震荡,CTO Barret Zoph因泄密被解雇。OpenAI应用部门CEO宣布欢迎Zoph等三人回归,引发外界关注。该公司虽融资20亿美元,但首款产品反响不佳。
韩松等提出FlashMoBA,比MoBA快7.4倍,序列扩到512K也不会溢出
今年2月月之暗面提出MoBA,在处理长上下文有潜力,但业界缺乏对其性能设计原则的理解和高效GPU实现。来自MIT、NVIDIA的研究者提出FlashMoBA,解决了小块MoBA性能挑战,实验显示其在多方面表现优。
以史为鉴:从互联网泡沫到英伟达五万亿
文章回顾互联网发展历程及泡沫破灭影响,对比当下AI浪潮,指出英伟达成首家市值破五万亿美元公司。探讨AI是否为泡沫,认为其未来发展或类似互联网,还分析英伟达走势及国产GPU替代、AI边缘推理领域前景。
杨植麟回复:Kimi K2训练用的H800!但“只花了460万美元”嘛…
月之暗面团队回应Kimi K2 Thinking训练成本,透露用英伟达H800,GPU少但利用充分。该模型凭实力与低成本引迁移潮,还引发对闭源巨头估值反思。技术上有优化创新,团队还公开答疑。