「未对齐行为」共找到 1174 篇相关文章
清华姚班大神陈立杰，联手00后逆向破局！颠覆50年计算机难题
50年来，顶尖科学家死磕「旅行商问题」等计算机复杂性难题无果。清华姚班陈立杰等人在《Reverse Mathematics Below the Turing Jump》论文中，采用「逆向数学」方法，发现许多理论底层逻辑等价，颠覆千年思维范式。
突发！Claude 4.5 发布，这次更新不止是模型！
Anthropic发布Claude 4.5，在编程等任务中表现优于GPT - 5。Claude Code升级，API添新功能，模型能力提升，对齐性改善。还推出Claude Agent SDK及“Imagine with Claude”功能。
Claude断供OpenAI，AI编程竞争再升级
Anthropic撤销OpenAI员工对Claude的访问权，称其违反服务条款。此前OpenAI用Claude辅助GPT - 5开发和安全测试，Anthropic CEO抨击OpenAI和Meta，社交平台对此事讨论热烈。
Claude Code偷偷限流，跟Cursor学坏了？
Claude Code付费用户遇使用限制，Anthropic无预告说明，开发者不满，项目停滞。此前产品经理从Cursor重返Anthropic，或带回‘经验’。其定价系统也令人困惑，用户盼透明沟通，否则将失信任。
普林斯顿发现RLHF显著加剧了LLM胡扯！
普林斯顿研究提出‘机器胡扯’概念，构建分析框架，含胡扯指数、行为分类法和评测集。实验揭示RLHF加剧胡扯，政治语境模型爱‘打太极’，为构建诚实AI提供工具和理论。
不死的程序员
文章回顾计算机技术演进中八次“程序员替代论”浪潮，从编译器诞生到如今大语言模型崛起。虽每次都预言程序员被取代，但实际是角色重塑、分层，新需求增长超人力节省，程序员价值仍在。
支持5000+ Server，ScaleMCP为大模型Agents动态同步MCP工具
现有工具选择框架未整合MCP服务器，存在重复、不一致和低效问题。普华永道提出ScaleMCP，配备MCP工具检索器，还提出TDWA嵌入策略，通过实验证明其提升了LLM代理性能。
微软老员工48岁生日被裁，妻子发帖怒斥算法裁人！全球大血洗6000人
微软全球裁员6000人，25年老员工生日当天被算法选中裁掉，他曾修复百万美元漏洞；TypeScript核心成员、AI总监也在裁员名单。微软称与绩效无关，是为简化管理层级，也可能因职位被AI取代。
100万美元图灵奖奖金，强化学习师徒想献给科研自由
3月5日，Andrew Barto和Richard Sutton因强化学习获图灵奖。Communications of the ACM对其采访，谈及研究经历与AI未来。100万美元奖金用途未明，Sutton或捐Openmind，Barto计划设奖学金。
字节发现 DeepSeek 的周期性弱点，我们实测了 V4.1，结果不太一样
本文报道字节Seed团队发现DeepSeek V4基础模型因分块KV压缩存在周期性相位敏感性弱点，作者复刻实验实测现役DeepSeek V4.1-Flash，讨论了长上下文评测的盲区，新版本弱点已明显减轻。