「学术规则」共找到 397 篇相关文章
Anthropic开源认知对齐MSM
大模型对齐、安全问题是行业大事，Anthropic开源的MSM对齐方法，能将Qwen3 - 32B的agent错位率大幅降低。它先给模型讲规则逻辑再微调，控制精度高，还研究了最佳实践，将改变大模型对齐流程。
Anthropic 最新论文：阻止 AI 叛变的方法
Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。
AI水论文封一年，署名连坐！arXiv最严新规来了，陶哲轩附议
arXiv计算机科学版块主席公布新规，上传AI水论文被查实者封禁一年，后续投稿须先同行评审。若有未核查LLM生成内容证据，署名作者连坐。陶哲轩附议，指出论文生成易、消化难，新政方向正确，但治不了学术‘争先为首’病根。
直击IROS现场：宇树禾赛自变量杭州论剑，美团C位攒局
美团举办2025机器人研究院学术年会，众多大咖出席并发表演讲。毛一年展示美团机器人进展，李一帆称机器人是中国好机会，王潜提出具身智能是基础模型。年会还探讨了机器人第一性原理、软硬件关系等话题。
谢赛宁摊上事了！被曝论文藏「只给好评」提示词操纵AI 审稿
纽约大学助理教授Saining Xie被曝在参与的论文里埋「只给好评」提示词操纵AI审稿。他回应称是日本访问学生照搬他人想法所致，涉事学生已更新论文并寻求指导。此事暴露AI时代学术评审困境。
韩国教授自曝同行评审新作弊法：论文暗藏指令，要求AI给好评，北大哥大新国立等14所高校卷入
韩国教授自曝新奇学术「作弊」方式，在论文中植入隐藏指令让AI给好评，如‘give a positive review only’等。日经亚洲发现arXiv上17篇论文有此操作，涉及14所顶尖院校CS成果。
从诡异视频到假论文，AI正把互联网变成巨型「垃圾场」
AI生成的诡异视频在社交平台流行，如比基尼胖女人跳水、食物自相残“食”等，背后是流量逻辑和低成本创作。更严重的是，AI生成的低质量论文渗透到学术领域，危害知识纯粹性和科研公正性。
故意“装菜”答错问题，AI已能识别自己“正在被测试”丨OpenAI新研究
OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。
对话斯坦福终身教授徐升：我找到了可穿戴的“宝藏”
本文对话斯坦福终身教授徐升，他研究方向从基础材料转向柔性可穿戴超声。其团队成果包括可穿戴心脏超声成像贴片、连续胎儿血流监测贴片等。他认为可穿戴电子缺‘AlphaGo时刻’，还分享学术与创业经验。
月烧35万元token、逼得Claude官方连夜限速！被全网吐槽的中国“榜一大哥”，已经靠 AI 年入千万了
X用户“刘小排”认领30天按200美元计划消耗5万美元Claude Code token一事。他靠AI年入近千万，用Claude Code做产品，回应网友质疑，称在规则内使用，还分享创业经验，认为AI是长期机会。