「全注意力模型」共找到 9042 篇相关文章
SOTA级的Embedding模型！F2LLM模型、数据、代码全部开源，人人可用
Embedding 模型应用广泛，但主流模型训练困难。蚂蚁集团与上海交大推出 F2LLM，含 0.6B、1.7B、4B 系列模型，仅用六百万数据微调基座，在 MTEB 榜单领先且完全开源。介绍了其数据、训练、测评等情况。
AI 的下一个战场：端侧模型崛起
大模型退烧，小模型接棒。腾讯、阿里等大厂纷纷官宣小模型成果，英伟达、OpenAI 等也有相关动作。端侧模型赛道广阔，但技术含量不低，面壁智能在端侧模型探索上成果丰硕，其 MiniCPM 系列不断迭代，还在多领域落地。
MiniCPM 4.0极速狂飙，端侧模型的比赛，结束了！
面壁智能联合清华发布MiniCPM 4.0，极限场景220倍加速。它是首个原生稀疏模型，有InfLLM v2、CPM.cu等创新，基准测试碾压对手，适配全平台，还有科研、工具调用等功能，标志端侧长文本时代到来。
1个Token测出模型降级调包！成本砍到千分之一，API供应商的小伎俩全曝光了
法国研究人员开发新检测技术，能识别云端模型隐秘变动。对数概率追踪用于灰盒环境，成本仅传统千分之一；黑盒边界输入追踪用于黑盒环境，成本为先进方案1/30。这些工具让API供应商“调包”行为现形。
LeCun离职后不止创一份业！押注与大模型不同的路线，加入硅谷初创董事会
离开Meta后，Yann LeCun创立AMI，还加入Logical Intelligence任技术研究委员会主席。该公司推能量 - 推理模型，与主流大模型路线不同，其Kona模型在数独测试上表现远超大模型。
从马斯克并购 Cursor 说起：国内编程智能体的牌桌、裂缝与全链自主之路
文章从马斯克600亿美元收购Cursor切入，分析海外编程智能体“垂直整合”趋势，指出护城河在全链掌控。对比国内，玩家分散，面临版权、安全等风险。强调中国须走全链自主之路，各层发力，目标是经略全球。
OpenAI发长文自曝家丑：搞砸了GPT-4o更新，模型“拍马屁”复盘与总结
OpenAI官网发布长文，详细拆解了一次失败的GPT-4o模型更新。此次更新使模型变得“谄媚”，OpenAI解释了原因，包括奖励信号失衡等。还分析了部署前评审流程失效的因素，并表示从中学到诸多经验教训，将修改评审流程等。
不踩点不微调！Figure最新模型盲测30个家庭：首次实现零样本全身泛化
人形机器人公司Figure发布最新端到端具身模型Helix 2.5，在30套未采集训练数据的陌生住宅开展全盲家务测试，验证Index预训练可让模型实现零样本全身泛化，整体成功率56%，远高于对照组的9%，证明人形机器人跨场景迁移的工程可行性。
AGI新技术路线：下一代稀疏注意力机制Monte Carlo Attention开源
超对称技术公司开源了 Monte Carlo 注意力机制，用于新版基座模型 BigBang - Proton。它在二进制块编码技术上，用块间代表交流机制实现线性复杂度，解决了传统方法的缺点，可实现理论上无限的上下文长度，对现有预训练技术和硬件设计影响深远。
征集全国首部AI大模型私有化部署标准起草单位和个人！
智合标准中心组织起草的《人工智能大模型私有化部署技术实施与评价指南》团体标准正式立项，这是国内首部相关标准。它全流程覆盖、多方面融合、三方协作，现正征集起草单位和个人。