「3B参数模型」共找到 8485 篇相关文章
字节Seed新作：模型合并如何改变大模型预训练范式
字节跳动Seed团队在arXiv发表论文，提出预训练模型平均（PMA）技术。该技术将模型合并引入预训练阶段，可提升性能、预测衰减阶段表现，还能解决训练问题。不过，高学习率影响和强化学习应用待研究。
微软等提出「模型链」新范式，与Transformer性能相当，扩展性灵活性更好
随着大语言模型发展，扩展 Transformer 架构成趋势，但参数规模增长带来训练负担。微软等研究者提出 CoR 概念，构建模型链学习范式，应用于语言模型得 CoLM 系列，实验显示其性能相当且扩展性、灵活性更好。
空间智能终极挑战MMSI-Video-Bench来了，顶级大模型全军覆没
上海人工智能实验室 InternRobotics 团队推出空间智能视频基准 MMSI-Video-Bench，对主流多模态大模型进行评测。该基准题型全面、问题具挑战性，视频数据多样，能针对性测评。结果显示模型与人类差距显著，明确了能力瓶颈。
“通用大模型微调成为行业模型是伪命题”？医疗AI深度重构，传神语联创始人何恩培：孪生智能体能砍70%线下复诊工作
本文为《2025 年度盘点与趋势洞察》系列访谈，传神语联创始人何恩培分享医疗 AI 发展看法。他认为通用大模型微调成行业模型是伪命题，介绍了传神素问中医大模型应用，还对比中西医 AI 化差异，探讨未来发展场景与挑战。
GPT-5刷屏吊胃口之际，英伟达发出暴论：小型语言模型才是未来
英伟达新论文指出，未来属于小型语言模型（SLM），挑战了智能体需用大型语言模型（LLM）的假设。SLM参数量低于100亿，有低延迟、低成本等优势，还给出从LLM到SLM迁移路线图。
Day0迁移、一键部署，华为开源的昇思MindSpore成为大模型开发的“万能钥匙”
在大模型无法一统天下的背景下，开发者面临在一个框架、生态体验众多主流大模型和AI技术的难题。华为开源的昇思MindSpore可实现训练Day0迁移、推理一键部署，还介绍了其相关技术和实测效果。
他们让万亿参数RL学会了「省着跑」，顺便砍掉九成算力
2025年，强化学习成大模型进化主战场，但万亿参数模型跑RL成本高。Mind Lab团队实现1T参数模型LoRA高效RL训练，GPU消耗降90%，技术开源。此外还有Memory Diffusion记忆机制等成果。
浙大开源PhyEdit：单图编辑+精准3D物体操作 | ACM MM'26
浙江大学ReLER团队开源的PhyEdit，用3D foundation model明确目标几何，让DiT图像编辑器负责最终渲染。单张图片里物体能移动并形成连续状态，在多项指标表现出色，还具备多种能力，已被ACM MM 2026接收。
一家营收千亿美元的公司，如何回应 AI 落地的策略问题
2025年9月19日，Qwen3和DeepSeek v3.1上线Amazon Bedrock。该产品秉持“Choice Matters”理念，为不同业务选适配基础模型，上架超二百余款模型。亚马逊云科技副总裁总结选模型要点，其策略影响AI落地进程。
从DeepSeek-V3到Kimi K2：八种现代 LLM 架构大比较
文章对比了DeepSeek-V3、Kimi K2等八种现代LLM架构。介绍各模型独特技术，如DeepSeek V3的多头潜在注意力和混合专家技术，OLMo 2的后归一化策略，Gemma 3的滑动窗口注意力等，探讨架构改进与突破。