大模型架构」共找到 9968 篇相关文章

新闻资讯8

见证历史!DeepSeek跃居全球第二AI实验室,R1登顶开源王座,R2全网催更

昨晚,DeepSeek官宣R1完成小版本升级,开启「深度思考」功能可体验。其R1-0528性能媲美o3和Gemini 2.5 Pro,还微调了8B模型。DeepSeek成全球第二AI实验室和开源王者,网友催更R2。

新智元
推荐文章7

对话蚂蚁吴伟:训推一体池化调度,如何把GPU用到极限

AICon会前,与蚂蚁集团吴伟深度对话,探讨GPU资源调度解法。他指出CPU和GPU有结构性差异,只在推理或训练内优化有资源闲置,国产卡缺全链路生态,软件优化有天花板。还分享架构思路、算法及落地效果等。

InfoQ
开源动态8

华人学生立功!新王Mamba-3直击Transformer死穴,推理效率碾压7倍

新一代开源架构Mamba-3发布,由CMU普林斯顿原班人马打造,15亿参数性能比Transformer高4%,长序列任务端到端延迟仅为其七分之一。它采用新设计哲学,推理优先,有三核心技术,还能与自注意力层混合提升检索能力。

新智元
算法论文8

0.01%参数就能接近全量微调!低数据微调极致省参方案来了 | ACL'26

瑞典隆德学与Google DeepMind团队研究模型微调省参方案。发现低数据场景下,微调Value投影中的b(v)比b(q)或b(k)性能更好。该研究已被ACL 2026接收,集成进Hugging Face - PEFT库。

量子位
开源动态7

数据与舆情双引擎:DeepAnalyze + BettaFish

DeepAnalyze是面向自主数据科学的语言模型,能自动完成数据科学任务,支持完整流程、开放式研究且完全开源。还提出两项关键技术。微舆 - BettaFish是舆情分析系统,四类智能体协同工作,有六核心优势。

带你学AI
新闻资讯7

Claude不让我们用!国产平替能顶上吗?

全球AI代码生成竞争格局生变,Anthropic地位动摇,一是OpenAI GPT - 5崛起,二是自身迷之操作。此时国产模型发力,如Kimi - K2 - 0905、Qwen3 - Max - Preview,性能和价格有优势,有望改变竞争格局。

机器之心
新闻资讯8

Hinton与姚期智对谈:认为人类的意识特殊,那是危险的无稽之谈

图灵奖得主Geoffery Hinton与姚期智对谈AI相关话题。Hinton认为人脑可给AI借鉴,还探讨人类未来与AI道德,强调训练善良AI重要;他觉得模型有理解能力,将人类意识特殊化是危险无稽之谈。

AI科技评论
算法论文9

假如有一万张卡,RL训练该怎么扩规模?十万张呢?

本文是腾讯混元团队针对模型强化学习规模化训练的研究,聚焦万卡级算力下Batch Size优化问题,拆分样本效率与系统效率的影响,给出可落地的调优框架,实测可缩短29%训练时间。

机器之心
新闻资讯8

【AAAI 2026会特邀报告】从推理到科学发现:AI迈向可精专通才之路

上海人工智能实验室周伯文在AAAI 2026会提出,当前处于AGI前夕,需通专融合智能。他认为可深度专业化通用模型是实现AGI的可行路径,科学发现是AI前沿,还介绍了SAGE架构及相关成果。

OpenMMLab
新闻资讯8

百度CTO王海峰:AGI曙光已现,Scaling Law仍有效|新智元十周年峰会

新智元十周年峰会,百度CTO王海峰分享AI发展。回顾十年,从AlphaGo到如今模型爆发,AGI曙光已现。他指出AI具通用性和全面性,百度内部超45%新增代码由AI生成,Scaling Law仍有效。

新智元