「未对齐行为」共找到 1130 篇相关文章
AAAI-26投稿量爆炸：近3万篇论文，2万来自中国，评审系统都快崩了
AAAI - 26主技术轨道接收近29000篇投稿，近20000篇来自中国。投稿作者超75000人，虽会剔除未达标稿件，仍约23000篇进入评审，是AAAI - 25近两倍。AAAI采取措施保障评审质量。
告别复杂提示词！蚂蚁新方式让AI自动理解你的个性化需求
蚂蚁通用人工智能研究中心自然语言处理实验室提出AlignXplore方法，通过强化学习让AI从用户行为归纳偏好并动态更新。该方法训练分两阶段，支持流式偏好推断，实验表现优异，是大模型个性化新尝试。
DevProxy 0.28 发布，增加 AI 支持
微软发布 DevProxy 0.29 命令行工具，新版本增加 AI 支持，便于配置使用。它能模拟 API 及网络行为，结合 dev tunnels CLI 可检查云服务通信，还利用大模型生成文件，有重大架构变更等。
豆包也开始抢程序员饭碗了，首个编程模型来了！
字节给豆包升级编程能力，推出首款编程模型Doubao - Seed - Code。它刷新国内编程模型上下文长度，支持视觉理解，API价格良心。经测试，虽未达全球顶尖，但弥补国产编程模型短板。
AI 找到了六个 Erdos 数学问题，陶哲轩：AI + 人类专家才是真正改变科学研究的方式
菲尔兹奖得主陶哲轩分享，AI 在 Erdos 问题网站实验中，帮数学家发现六个原本标记为「未解决」的问题其实已被解决。他认为 AI 有价值的应用是处理枯燥日常工作，如文献搜索。
Figure人形机器人首秀灵巧手叠衣服！神经网络架构不变，只增加数据集就搞定
Figure人形机器人首秀用灵巧手叠衣服，在未改变神经网络架构、仅增加数据的情况下，让原本用于物流场景的它习得新技能，完成了端到端的操作，还实现自然多模态交互。
AgentA/B：用AI模拟用户，真人AB测试或将成为历史
宾夕法尼亚州立大学和亚马逊合作研发AgentA/B测试框架，用大语言模型生成虚拟用户模拟真实行为，成本低、速度快，还能绕开真实流量测试。虽有人质疑，但它或改变传统AB测试。
Karpathy从Anthropic离职了？个人简介修改引发全网猜测
官宣入职Anthropic才俩月，Andrej Karpathy修改个人简介去掉公司信息，引发离职猜测。有未经证实消息称其已提交辞职申请，同时Anthropic未参与开源AI公开信联署，目前离职说法待证实。
巨头垄断AGI，比天网更恐怖百倍!《终结者》导演卡梅隆炸裂警告
《终结者》导演詹姆斯·卡梅隆在「SCSP AI+Robotics Summit」上称，看好AI但对AGI保留态度。他警告科技巨头垄断AGI比《终结者》中「天网」更可怕，还探讨了AI与国家安全、「对齐」难题等问题。
SimpleTIR：让大模型“边写代码边思考”不再崩溃
SimpleTIR可解决多轮工具调用中训练崩溃问题。作者指出崩溃原因是分布偏移、低概率token链式雪崩和梯度爆炸。它采用void turn过滤，掐断崩溃链路，训练稳定，还催生多样推理行为，且工程友好已开源。