「稀疏语言模型」共找到 7890 篇相关文章
Hugging Face 发布 FineTranslations：一个万亿级的多语言平行文本数据集
Hugging Face 发布 FineTranslations，这是含超 1 万亿 Token 的多语言数据集，用于提升机器翻译质量。它源于 FineWeb2，用 Gemma3 27B 翻译创建，数据生成流程可复现公开，还能用在其他任务。
20万人抢的全球大模型第一股，我中签了
智谱在港交所上市成全球大模型第一股，作者申购中签。智谱专注AI Coding，迭代快，GLM - 4.7成绩亮眼，商业化数据佳，还有诸多有意思细节，虽行业竞争大，但它表现不错。
Manus数十亿美元卖身Meta，智谱夺得全球大模型第一股
2025年末中国AI领域有两大喜事，通用AI Agent公司Manus被Meta数十亿美元收购，其发展迅速成果显著；智谱启动招股，即将成为全球大模型第一股，虽研发投入高，但营收增长快，获资本青睐。
阶跃新模型快到“没推理”！印奇上任，果然气势一新
印奇上任后，阶跃星辰发布新一代开源Agent基座模型Step 3.5 Flash，总参数196B，支持256K上下文窗口。它推理快，适配多家芯片厂商，在多场景表现出色，还具备端云协同能力，架构也有多项优化。
AGI新技术路线：下一代稀疏注意力机制Monte Carlo Attention开源
超对称技术公司开源了 Monte Carlo 注意力机制，用于新版基座模型 BigBang - Proton。它在二进制块编码技术上，用块间代表交流机制实现线性复杂度，解决了传统方法的缺点，可实现理论上无限的上下文长度，对现有预训练技术和硬件设计影响深远。
蚂蚁出手VLA，就是开源超越Pi0.5的基座模型
当前具身智能落地面临泛化能力不足的挑战，蚂蚁灵波开源发布的基座模型 LingBot-VLA 带来突破。它基于大量真实世界数据预训练，在多项真机任务测试中超越 Pi0.5，且在架构、效率等方面有创新。
社区供稿丨揭秘端到端文档OCR模型 POINTS-Reader
腾讯开源端到端文档OCR模型POINTS-Reader，论文被EMNLP 2025主会录取。它提出可扩展数据生成方案，具简洁、性能好、高吞吐量等特点，通过两阶段训练方案解决依赖蒸馏数据问题，在多基准测试表现佳。
表格建模也能Scaling？树模型的时代要改变了
文章指出 AI 算力增长与结构化数据建模以树模型为主形成反差。浙大 X 蚂蚁 AIforData 团队探索结构化数据预训练，在表格数据和行为序列预训练上有成果，验证了 Scaling Law，预示结构化数据建模范式将改变。
Anthropic顶级Claude模型被逆向开源，这几个模块借鉴了DeepSeek
22岁开发者逆向开源Anthropic的Claude Mythos Preview模型架构，名为OpenMythos。其核心模块借鉴DeepSeek，采用带混合专家路由机制的循环Transformer，有独特设计和稳定机制，重新框定扩展性争论。
32岁，全球第一开源模型掌舵人，说了声bye就走了
3月2日阿里千问发布Qwen3.5小尺寸模型系列获马斯克点赞，次日林俊旸提交辞职申请。他带领千问三年成绩斐然，但开源竞争格局生变，且阿里组织调整与他理念冲突，他和团队成员选择离开。