算法论文8
ParScale:大模型扩展新路线
通义千问Qwen
AI 摘要
研究团队:提出并行扩展ParScale路线,有新扩展定律,两阶段后训练策略降成本,在Qwen - 2.5上也能提升性能,适合边缘设备,后续会在更多模型和数据上尝试。
阅读原文 · 通义千问Qwen
ParScale:一种全新的大模型Scaling Law
文章提出并行扩展(ParScale)路线,在不增模型参数下,通过引入并行流提升性能。新扩展定律打破传统范式,两阶段后训练策略降成本,还适用于边缘设备,研究仍在进行。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
发布9天,Jev估值破百亿美元
本文报道AI初创公司TypeSafe AI发布的模型Jev上线仅9天,就传出投资者给出超百亿美元估值,剖析资本追捧低价薄利模式的原因,同时梳理业内对其护城河的质疑,探讨大模型赛道资本动向。
DeepTech深科技
新闻资讯8
机器人的GPT时刻就是GPT本身?
本文围绕GPT-6 Astra发布后的行业测试展开,讨论通用大模型能否成为机器人的通用大脑,分析了通用大模型参与机器人控制的原理与优势,点明当前能力边界,提出了分工协作的落地方案。
DeepTech深科技
新闻资讯8
谷歌AI踩油门:Gemini冲刺TPU上天
本文报道谷歌近期AI业务最新动态,涵盖Gemini 4大模型研发进展、TPU上太空测试计划,以及工程师因AI发展太快辞职事件,展现谷歌AI全面加速的现状。
量子位
新闻资讯8
AI时代,计算机科学界死了吗?
本文整理了德克萨斯大学奥斯汀分校AI博士生曹晋的公开发帖,围绕大模型冲击下AI学术界灌水严重、研究范式过时的观点展开,探讨AI研究者与博士生的未来出路,引发业内广泛讨论。
机器之心