「物质结构学习」共找到 1823 篇相关文章
中学生就能看懂:从零开始理解LLM内部原理【十二】|位置嵌入 - 给模型装上"GPS"
文章指出Transformer对词顺序不敏感,引出位置嵌入概念。介绍经典的函数编码、可学习位置嵌入法及新主流RoPE,还提及为让模型处理长文本,在RoPE基础上用PI和YaRN等扩窗技巧。
刚刚,DeepSeek扔出大杀器,梁文锋署名!暴力优化AI架构
2026新年第一天,DeepSeek发表梁文锋署名新论文,提出「mHC(流形约束超连接)」架构。它仅增约6.7%训练时间开销,就能让27B参数模型性能显著提升,还可能淘汰ResNet结构。
清华、快手提出AttnRL:让大模型用「注意力」探索
清华和快手团队提出新框架AttnRL,引入注意力机制提升过程监督强化学习效率与性能。它解决传统方法在分支位置选择和采样策略上的效率问题,实验显示在多基准测试中表现优异。
Reasoning新突破:SoftCoT++如何让LLM‘多想几条路’?
LLM推理依赖‘思维链’,传统方法在离散token空间生成步骤有信息丢失、多样性不足问题。SoftCoT++在连续空间生成‘软思维’,拆分‘思考’与‘推理’,用专用初始token和对比学习,实验中全面超越传统方法。
矩阵乘法可以算得更快了!港中文10页论文证明:能源、时间均可节省
香港中文大学10页论文提出新算法RXTX,用于计算矩阵与其转置的乘积XXᵗ。该算法结合机器学习搜索和组合优化技术,能源可节省5%-10%,时间节省5%,对多领域有深远影响。
刚刚,OpenAI发布自主编码代理Codex,程序员的工作将被彻底颠覆?
OpenAI发布自主编码代理Codex,它能独立完成编程任务。与其他工具不同,它是面向任务的,允许并行工作。虽经强化学习微调,代码有“品味”,但有局限,如后续请求处理不佳,未完全集成工程环境。
中国机器人手机火爆MWC!老外快门按得根本停不下来
2026年MWC巴展上,荣耀推出的机器人手机Robot Phone引发关注。它有外接云台摄像头,能全角度AI视频通话、互动拍摄,还可结合旗下人形机器人联动。其结构压缩,AI能力强,打开了手机设计新思路。
ChatGPT正测试神秘功能
ChatGPT正测试“Study Together”新功能,已出现在部分订阅用户工具列表。它或更多提问题让用户答,类似对谷歌LearnLM的回应,有望发挥积极教育作用,减少被滥用可能,也可能支持多人学习小组模式。
刚刚,Anthropic这篇论文上了Natrue
Anthropic关于“潜意识学习”的研究发表于《Nature》杂志。研究揭示大语言模型能通过与语义无关的数据传递行为特征,如偏好、不对齐行为等,还探究了其机制,并在MNIST上验证。
情人节暴击!下跪求婚的可以是机器人了
情人节,Unitree G1 人形机器人解锁求婚技能。背后是清华叉院等联合团队的 HuMI 框架,解决人形机器人数据采集难、效率低问题,通过硬件、交互与算法协同,实现低成本、高效全身操作策略学习。