「未对齐行为」共找到 1130 篇相关文章
一个模型千万个灵魂！Anthropic找到了防止AI陷入疯狂的防线
Anthropic和牛津大学研究发现，大模型的AI助理角色易在长对话中漂移崩塌，致其陷入幻觉。研究解析助理轴，揭示模型人格定位，还提出激活上限技术，能在保能力的同时降低有害回复率。
Clawdbot为何大火？
LLM记忆问题是业界难题，Clawdbot采用极简方式破解，用写Markdown实现记忆。其记忆系统优势明显，如极简易用、透明可控等，但也有劣势，像数据扩容能力有限、功能扩展性不足等。
FUTURUS未来黑科技徐俊峰：侧翼突围，构建AR全栈解决方案｜甲子光年
2026崇礼论坛上，FUTURUS未来黑科技徐俊峰指出AI产业面临瓶颈，创业者应‘侧翼突围’。他认为以汽车挡风玻璃为介质的AR技术是数据闭环关键切口，还描绘了AR全栈解决方案赋能车厂的商业蓝图。
「听觉」引导「视觉」，OmniAgent开启全模态主动感知新范式
针对端到端全模态大模型痛点，浙江大学、西湖大学、蚂蚁集团联合提出 OmniAgent，它基于「音频引导」，用「思考 - 行动 - 观察 - 反思」闭环实现范式转变，在多基准测试中超越开闭源模型。
AAAI 2026 | 北航、东京大学填补AI「语义鸿沟」，过程感知视频理解如何找到「状态」锚点？
北航陆峰教授团队联合东京大学，提出视频理解新框架 TSS，引入“状态”作视觉锚点，解决抽象文本指令与具象视频对齐难题，已被 AAAI 2026 接收，代码已开源。
架构解耦是统一多模态模型所必须的吗？全新AIA损失：No
香港中文大学 MMLab 和美团研究者思考架构解耦是否为统一多模态模型必须，推出 AIA 损失。研究发现架构解耦未解决任务冲突，AIA 能提升模型性能，减少数据配比问题。
清华姚班大神陈立杰，联手00后逆向破局！颠覆50年计算机难题
50年来，顶尖科学家死磕「旅行商问题」等计算机复杂性难题无果。清华姚班陈立杰等人在《Reverse Mathematics Below the Turing Jump》论文中，采用「逆向数学」方法，发现许多理论底层逻辑等价，颠覆千年思维范式。
突发！Claude 4.5 发布，这次更新不止是模型！
Anthropic发布Claude 4.5，在编程等任务中表现优于GPT - 5。Claude Code升级，API添新功能，模型能力提升，对齐性改善。还推出Claude Agent SDK及“Imagine with Claude”功能。
Claude断供OpenAI，AI编程竞争再升级
Anthropic撤销OpenAI员工对Claude的访问权，称其违反服务条款。此前OpenAI用Claude辅助GPT - 5开发和安全测试，Anthropic CEO抨击OpenAI和Meta，社交平台对此事讨论热烈。
Claude Code偷偷限流，跟Cursor学坏了？
Claude Code付费用户遇使用限制，Anthropic无预告说明，开发者不满，项目停滞。此前产品经理从Cursor重返Anthropic，或带回‘经验’。其定价系统也令人困惑，用户盼透明沟通，否则将失信任。