「全模态强化学习」共找到 1631 篇相关文章
中学生就能看懂:从零开始理解LLM内部原理【十二】|位置嵌入 - 给模型装上"GPS"
文章指出Transformer对词顺序不敏感,引出位置嵌入概念。介绍经典的函数编码、可学习位置嵌入法及新主流RoPE,还提及为让模型处理长文本,在RoPE基础上用PI和YaRN等扩窗技巧。
Reasoning新突破:SoftCoT++如何让LLM‘多想几条路’?
LLM推理依赖‘思维链’,传统方法在离散token空间生成步骤有信息丢失、多样性不足问题。SoftCoT++在连续空间生成‘软思维’,拆分‘思考’与‘推理’,用专用初始token和对比学习,实验中全面超越传统方法。
矩阵乘法可以算得更快了!港中文10页论文证明:能源、时间均可节省
香港中文大学10页论文提出新算法RXTX,用于计算矩阵与其转置的乘积XXᵗ。该算法结合机器学习搜索和组合优化技术,能源可节省5%-10%,时间节省5%,对多领域有深远影响。
“不必给中国最新最好芯片!”黄仁勋直言不同意Dario做法,称“软件工程师岗没了”完全没道理!
英伟达创始人黄仁勋在与CNBC Cures联合创始人Becky Quick对话中,谈到芯片出口、投资、AI安全、就业等问题。他认为美国公司应全球竞争,出口能强化国家安全;开源是应对网络安全的答案;AI创造就业,软件工程师岗位在增加。
ChatGPT正测试神秘功能
ChatGPT正测试“Study Together”新功能,已出现在部分订阅用户工具列表。它或更多提问题让用户答,类似对谷歌LearnLM的回应,有望发挥积极教育作用,减少被滥用可能,也可能支持多人学习小组模式。
刚刚,Anthropic这篇论文上了Natrue
Anthropic关于“潜意识学习”的研究发表于《Nature》杂志。研究揭示大语言模型能通过与语义无关的数据传递行为特征,如偏好、不对齐行为等,还探究了其机制,并在MNIST上验证。
情人节暴击!下跪求婚的可以是机器人了
情人节,Unitree G1 人形机器人解锁求婚技能。背后是清华叉院等联合团队的 HuMI 框架,解决人形机器人数据采集难、效率低问题,通过硬件、交互与算法协同,实现低成本、高效全身操作策略学习。
The Batch: 892 | 教育应与 AI 协作,而非对抗
三年多前ChatGPT发布,教育改变。曾寄望用AI检测器识别生成文本,但学生易规避。检测难维持信任,还可能惩罚错对象。生成式AI可提升学习,应构建新评估模型,如展示真实理解等。
李飞飞发起机器人家务挑战赛!老黄第一时间批钱赞助
李飞飞团队发起、英伟达赞助的首届BEHAVIOR家务挑战赛启动,参赛者用星海图R1 Pro在虚拟家庭环境完成50项家务。受ImageNet启发,该赛旨在解决机器人学习痛点,推动具身智能发展。
把AI装进数据库:PostgresML和Korvus的新思路
当下机器学习应用开发流程复杂,开源数据库Postgres带来惊喜。PostgresML团队让AI模型跑在数据库中,介绍了PostgresML和Korvus两个关键项目,二者结合降低复杂度,让‘在SQL里跑AI’成工程现实。