「架构技术」共找到 4194 篇相关文章
如何在24GB显存里,塞下一个万亿参数的巨兽?KTransformers入选顶会SOSP
清华大学与趋境科技联合研发的KTransformers系统,可让消费级显卡跑万亿级参数模型,其论文入选SOSP 2025。该系统解决MoE模型本地部署难题,技术创新多,还与SGLang合作,提升硬件利用率。
2篇最新152页论文,RL+LLM被彻底讲透了!
今天分享2篇2025最新RL×LLM的技术综述,分别聚焦“RL在LLM全生命周期的打法”和“RL如何炼成大推理模型”,梳理玩法、组件、算法演进等内容,还给出开源模型、数据等盘点。
阿里Qwen悄悄放出6个开源权重,国庆卷疯了~
国庆期间,阿里通义千问悄悄放出6个开源模型权重,Qwen3-VL是通义千问系列最强大的视觉 - 语言模型。其30B版本多模态表现媲美GPT - 5 - Mini等,功能与架构均有升级。
性价比搏击:Grok 4 Fast 推理成本直降 98%
xAI上周五发布旗舰模型轻量化版Grok 4 Fast,推理成本直降98%。它通过强化学习在基准测试表现佳,有原生工具调用能力,采用统一架构,性价比高,或改写大模型竞争规则。
从文心开源谈起,论大模型发展新生态
6月30日百度宣布开源ERNIE 4.5即文心4.5系列模型,实现预训练权重+推理代码完全开源。文心团队提出创新架构,增强多模态理解能力。今晚7:30,CSDN邀专家深度解读文心开源及行业趋势。
“我的新爱好:眼睁睁看着Copilot慢慢逼疯微软程序员”
近日,Reddit上关于GitHub Copilot的风波引发开发者关注。微软发布Copilot Agent,虽称其擅长开发任务,但在GitHub实践中表现不佳,引发开发者不满,也反映出技术理想与现实落地的差距。
开启RL Scaling新纪元,siiRL开源:完全分布式强化学习框架,支持超千卡规模高效训练
传统强化学习框架在模型和集群规模达上千块GPU时,存在扩展性瓶颈和效率低下问题。上海创智学院团队推出siiRL,采用全分布式架构和多控制器范式,解决传统框架痛点,在多方面验证了其高性能。
OpenAI祭出GPT-5.4神装!Codex同款Harness全面开放
OpenAI重写Agents SDK架构,将其从‘聊天机器人玩具’变为‘生产级Agent底座’,原生收编七大沙盒,还把Codex经验产品化塞进SDK,这冲击了第三方框架,也让沙盒供应商纳入其生态。
在一台1970年代的PDP-11上训练Transformer需要多久?答案是5.5分钟
近日,开发者复现1970年代技术环境,用PDP - 11汇编语言实现Transformer并训练成功,项目叫ATTN - 11。在低资源下实现功能闭环引热议,大家思考Transformer到底需要什么。
直播预约 | 世界模型,点燃下一个AI爆点
2026开年,世界模型成科技圈热门议题,被视为通向AGI重要基建。4月15日19:00 - 21:00,机器之心联手黄大年茶思屋,邀5位专家从技术到产业解析世界模型前沿,双平台直播。