「对比学习」共找到 1784 篇相关文章
中学生就能看懂：从零开始理解LLM内部原理【十二】｜位置嵌入 - 给模型装上"GPS"
文章指出Transformer对词顺序不敏感，引出位置嵌入概念。介绍经典的函数编码、可学习位置嵌入法及新主流RoPE，还提及为让模型处理长文本，在RoPE基础上用PI和YaRN等扩窗技巧。
清华、快手提出AttnRL：让大模型用「注意力」探索
清华和快手团队提出新框架AttnRL，引入注意力机制提升过程监督强化学习效率与性能。它解决传统方法在分支位置选择和采样策略上的效率问题，实验显示在多基准测试中表现优异。
矩阵乘法可以算得更快了！港中文10页论文证明：能源、时间均可节省
香港中文大学10页论文提出新算法RXTX，用于计算矩阵与其转置的乘积XXᵗ。该算法结合机器学习搜索和组合优化技术，能源可节省5%-10%，时间节省5%，对多领域有深远影响。
刚刚，OpenAI发布自主编码代理Codex，程序员的工作将被彻底颠覆？
OpenAI发布自主编码代理Codex，它能独立完成编程任务。与其他工具不同，它是面向任务的，允许并行工作。虽经强化学习微调，代码有“品味”，但有局限，如后续请求处理不佳，未完全集成工程环境。
Fable 5回归全网抓紧测！发现GLM-5.2更香了，价格只有1/39
Claude Fable 5消失19天后全球再上线，7月1 - 7日Pro等订阅用户可用，但额度受限。它实力强但贵，与多模型对比表现优，远程工作能力突出。不过使用限制变多，安全分类器易误伤。
ChatGPT正测试神秘功能
ChatGPT正测试“Study Together”新功能，已出现在部分订阅用户工具列表。它或更多提问题让用户答，类似对谷歌LearnLM的回应，有望发挥积极教育作用，减少被滥用可能，也可能支持多人学习小组模式。
刚刚，Anthropic这篇论文上了Natrue
Anthropic关于“潜意识学习”的研究发表于《Nature》杂志。研究揭示大语言模型能通过与语义无关的数据传递行为特征，如偏好、不对齐行为等，还探究了其机制，并在MNIST上验证。
情人节暴击！下跪求婚的可以是机器人了
情人节，Unitree G1 人形机器人解锁求婚技能。背后是清华叉院等联合团队的 HuMI 框架，解决人形机器人数据采集难、效率低问题，通过硬件、交互与算法协同，实现低成本、高效全身操作策略学习。
The Batch: 892 | 教育应与 AI 协作，而非对抗
三年多前ChatGPT发布，教育改变。曾寄望用AI检测器识别生成文本，但学生易规避。检测难维持信任，还可能惩罚错对象。生成式AI可提升学习，应构建新评估模型，如展示真实理解等。
拥抱大模型：深入剖析ReAct的核心原理、技术架构及其对AI领域的深远影响
文章深入剖析ReAct，它是普林斯顿大学和谷歌团队提出的智能体架构范式，将推理与行动协同，构建TAO闭环。介绍其原理、架构，指出解决传统AI难题，也存在局限，未来可与强化学习等融合。