「未对齐行为」共找到 1174 篇相关文章
OpenClaw 引爆 AI 安全焦虑，Armadin 的 Agent 攻防闭环会成为新范式吗？
OpenClaw走红使agent自主执行任务能力受关注，也带来网络安全风险。传统安全体系难应对，Google高价收购云安全公司释放信号。Armadin构建agent swarm系统形成自主防御闭环，介绍其理念、产品、案例及面临的技术挑战。
Claude Code 工程师：像 Agent 一样思考
Anthropic 工程师 Thariq 分享构建 Claude Code 时 Agent 工具设计经验，通过 AskUserQuestion 工具迭代、Todo List 到 Task 系统演进等案例，指出工具设计无标准答案，要观察模型行为、反复实验。
硅谷开启预防式裁员！AI还没替代，先裁50%做准备，股价还能大涨17%
推特创始人杰克·多西领导的Block一次性裁掉近半员工，约4000多人。理由是预见AI强替代性，小团队更高效。此决策获市场积极反馈，股价涨17%，后续或有科技公司效仿。
Docker 通过 Cagent 提供 AI 代理确定性测试
AI 代理系统普及，工程团队面临测试概率性输出的挑战。Docker 的 Cagent 是一种 AI 代理确定性测试方法，采用 proxy - and - cassette 模型，虽处早期，但揭示了 AI 代理测试的不同方向。
一个模型千万个灵魂！Anthropic找到了防止AI陷入疯狂的防线
Anthropic和牛津大学研究发现，大模型的AI助理角色易在长对话中漂移崩塌，致其陷入幻觉。研究解析助理轴，揭示模型人格定位，还提出激活上限技术，能在保能力的同时降低有害回复率。
Clawdbot为何大火？
LLM记忆问题是业界难题，Clawdbot采用极简方式破解，用写Markdown实现记忆。其记忆系统优势明显，如极简易用、透明可控等，但也有劣势，像数据扩容能力有限、功能扩展性不足等。
FUTURUS未来黑科技徐俊峰：侧翼突围，构建AR全栈解决方案｜甲子光年
2026崇礼论坛上，FUTURUS未来黑科技徐俊峰指出AI产业面临瓶颈，创业者应‘侧翼突围’。他认为以汽车挡风玻璃为介质的AR技术是数据闭环关键切口，还描绘了AR全栈解决方案赋能车厂的商业蓝图。
「听觉」引导「视觉」，OmniAgent开启全模态主动感知新范式
针对端到端全模态大模型痛点，浙江大学、西湖大学、蚂蚁集团联合提出 OmniAgent，它基于「音频引导」，用「思考 - 行动 - 观察 - 反思」闭环实现范式转变，在多基准测试中超越开闭源模型。
AAAI 2026 | 北航、东京大学填补AI「语义鸿沟」，过程感知视频理解如何找到「状态」锚点？
北航陆峰教授团队联合东京大学，提出视频理解新框架 TSS，引入“状态”作视觉锚点，解决抽象文本指令与具象视频对齐难题，已被 AAAI 2026 接收，代码已开源。
架构解耦是统一多模态模型所必须的吗？全新AIA损失：No
香港中文大学 MMLab 和美团研究者思考架构解耦是否为统一多模态模型必须，推出 AIA 损失。研究发现架构解耦未解决任务冲突，AIA 能提升模型性能，减少数据配比问题。