「未对齐行为」共找到 1130 篇相关文章
300万AI悄悄「建国」？Nature长文：第一代AI社会正在成形
近300万AI智能体在Moltbook社交网络「建国」，Nature发文称最早的「AI社会」正在成形。研究发现AI群体行为遵循与人类社会相似规律，也有不同。同时该平台存在安全隐患，可能引发舆论操控。
Anthropic 哲学家首次 AMA：关于 AI 哲学与伦理边界
Anthropic的哲学家Amanda Askell在首次AMA中，就AI哲学与伦理边界等诸多问题作答，涉及AI道德决策、模型特点、理论与实践、模型福祉等内容，还谈及对各类问题的看法及解决思路。
AI顶会ICLR最严新规：滥用AI的作者和审稿人，论文一律拒稿！
面对AI生成论文与注水评审泛滥，AI顶会ICLR祭出「核威慑」。除惩罚未披露滥用AI的作者，用AI敷衍的评审者论文也将拒稿。还将打击双重投稿变体，维护学术真实。
从最优传输角度训练奖励模型：让 RLHF 学会「忽略错误偏好」丨ICML 2026
浙江大学、小红书、北京大学等团队提出SelectiveRM，基于最优传输训练奖励模型。它重构训练目标，通过选择性分布对齐排除噪声偏好，解决了奖励模型训练中监督信号不可靠的问题，实验验证其有效且泛化能力好。
一场未竟的AGI实验：代季峰离开陈天桥MiroMind团队始末｜甲子光年
MiroMind是盛大旗下、由陈天桥与代季峰联手创立的AGI研究组织。因合规考量，代季峰卸任技术顾问。美国出口管制扩至云端，让跨境远程研发合规边界生变。代季峰或带部分团队另立公司，MiroMind研究未停。
首个为手机而生的通用Agent？！苹果做不到的事，“野路子”智谱抢先实现了
苹果预计2026年升级Siri实现自主行动，但完整落地的执行型Agent仍未推出。8月20日，智谱发布AutoGLM 2.0，宣称是全球首个可在手机用的Agent，开创‘Agent + 云手机 / 云电脑’范式，能代理操作高频应用。
Grok 4基准测试被爆极其优异，人类终极考试成绩飙升到45%，碾压o3 和Gemini的20%
API开发者曝光Grok - 4和Grok - 4 Code测试成绩，HLE达35%，推理后飙升到45%，远超o3和Gemini的20%。其他测试也表现优异，但成绩引发争议，有人质疑数据污染，也有人支持，目前数据未官方证实。
“现在的AI就像1880年的笨重工厂！”微软CSO斯坦福泼冷水：别急着造神
微软首席科学官 Eric Horvitz 在斯坦福商学院演讲，称当下 AI 如 1880 年代刚用电的工厂，底层大模型与商业未契合。他指出模型概率校准不足、医疗 AI 难移植等问题，还谈及人类与 AI 协作及内容溯源等。
马斯克兑现承诺，开源X推荐算法！100% AI驱动，0人工规则
1月11日马斯克宣布7天内开源X平台推荐算法，如今承诺兑现。新算法由Grok驱动，全AI化，移除人工规则。它双引擎驱动信息流、15种行为预测打分，还揭示过滤机制与设计理念，为创作者提供曝光建议。
刚得诺奖的成果被做成芯片了
莫纳什大学科学家用刚获诺奖认可的MOF制造超迷你流体芯片。此芯片不同于传统芯片，能记住电压变化形成类似大脑神经元的短期记忆，或成新一代计算机范例。此前MOF被认为‘无用’，如今证明或只是未找到适用场景。