「LLM越狱算法」共找到 1493 篇相关文章
最具争议性研究：大模型中间层输出可 100% 反推原始输入
意大利罗马第一大学GLADIA Research Lab论文提出主流Transformer语言模型信息处理几乎不丢内容，是可逆的。实验验证其单射性，SIPIT算法能100%重建输入。研究有新视角，但也引发讨论。
中国足球还是靠机器人吧！首届机器人运动会闭幕：票价终究保守了
世界人形机器人运动会闭幕，清华火神队1-0胜德国队获机器人足球赛冠军。赛中有诸多有趣场面，且比赛背后硬核技术拉满，像足球赛用自主行动机器人，胜负关键在算法。
成果三年两登Nature封面，这支清华团队想让AI换个方式看世界
清华大学类脑计算研究中心团队成果三年两登Nature封面。晰见科技承接天眸芯技术产业化，重新做AI的眼睛。天眸芯拆解视觉信息，构建互补通路，团队还研究算法融合信息，目前芯片进展良好。
第二代AI预训练范式：预测下个物理状态
英伟达科学家 Jim Fan 发布《第二代预训练范式》，指出当前以 LLM 为代表的第一代范式应用于物理世界时「水土不服」，认为第二代范式是「预测下一个物理状态」，引发机器学习社区讨论。
AI教父Hinton诺奖演讲首登顶刊！拒绝公式，让全场秒懂「玻尔兹曼机」
2024年12月8日，诺贝尔物理学奖得主Hinton发表《玻尔兹曼机》演讲，内容于8月25日登APS期刊。他介绍‘霍普菲尔德网络’，分享创新应用，提出‘玻尔兹曼机学习算法’，后有受限玻尔兹曼机等成果，‘玻尔兹曼机’曾催化深度学习革命。
Transformer亲爹痛斥：当前AI陷死胡同，微调纯属浪费时间！
Sakana AI创始人Llion Jones是Transformer发明者之一，他警告当前Transformer虽成功，但业界或重蹈RNN覆辙，无数微调是浪费时间。他认为现在LLM非通用智能，已转向探索生物学启发的新架构。
清华挖出「幻觉」的罪魁祸首：预训练产生的0.1%神经元
清华大学孙茂松团队从神经元角度研究LLM幻觉微观机制，发现不到0.1%的H - 神经元可预测幻觉，与过度顺从行为相关，根源在预训练阶段，为解决幻觉问题、开发可靠大模型提供新思路。
Sutton 的批评与反思：AGI 的下一步是什么？
文章是对 Richard Sutton 采访的反思，指出 LLM 训练效率低、依赖人类数据，未实现有机自主学习。作者与 Sutton 有分歧，认为模仿学习与强化学习互补，还探讨持续学习，称 Sutton 批评有启发性。
强化学习之父：大语言模型走错了路，不符合「苦涩教训」精神
2024 年图灵奖得主、强化学习创始人之一 Richard Sutton 在播客中批评 LLM 发展方向，认为其无真正智能，违背「苦涩教训」原则，缺乏持续学习能力，仅模仿人类，未理解世界。此观点引发 AI 社区激烈讨论。
矩阵乘法新突破！XX^T原来可以更快！RL助力搜索，世界纪录又被提升了5%
深圳市大数据研究院、香港中文大学（深圳）研究团队，结合强化学习与组合优化技术，发掘新算法 RXTX，让 XX^T 运算减少 5% 运算量，成果在国际引发关注，不过产业化落地仍面临挑战。