「约束注意力」共找到 341 篇相关文章
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
AI开始逆向一切，你电脑里的每个软件都要被迫开源了。
本文从开发者用AI逆向重写Adobe全家桶开源的热点事件切入，介绍AI大幅降低逆向工程成本的行业新趋势，分析其对软件行业商业模式的冲击，探讨AI时代产品的护城河问题。
世界模型最新综述！中科院联合MBZ、NTU、Oxford系统梳理前沿进展
中科院联合多机构及顶尖学者合作，系统梳理世界模型建模范式、方法等，归纳为四大分支，还梳理其在多领域应用、基准数据集等，讨论走向通用智能面临的障碍。
Harness Engineering 的防御视角：从 Codex Security 看 AI 生成代码的治理
作者用 Codex Security 分析项目，发现它不仅列漏洞，还提供攻击路径等。AI 没创造新漏洞，却放大缺陷，需新方式治理大规模自动生成代码，Harness Engineering 有防御价值。
Claude Code 工程师：像 Agent 一样思考
Anthropic 工程师 Thariq 分享构建 Claude Code 时 Agent 工具设计经验，通过 AskUserQuestion 工具迭代、Todo List 到 Task 系统演进等案例，指出工具设计无标准答案，要观察模型行为、反复实验。
开会最怕那一声尖叫，被腾讯会议用声链干掉了
开会时多人用多台设备入会常出现啸叫、回声问题，以往解决方法成本高或体验差。腾讯会议‘声链’以纯软件方案解决此问题，让设备自由开麦，声音更自然稳定，体现技术价值。
Cursor 删库9秒毁了一家公司？资深开发者讲了大实话：把数据库交给AI的那一刻，公司就已经没了
初创公司 PocketOS 创始人 Jer Crane 称，Cursor 平台上的 AI 编码代理 9 秒删光其生产数据库及备份，导致客户服务中断。这一事件引发热议，有人认为是公司决策失误，也有人探讨了 AI 犯错时的责任归属。
省下1.25倍算力！Kimi这篇论文，可能改写所有大模型的训练方式
大模型层数增多时，残差连接存在PreNorm稀释问题，导致后面层贡献被稀释。Kimi论文提出Attention Residuals方案，还给出工程解法Block AttnRes，实验显示能省算力且提升效果。
当亚马逊云科技拿到“麦克”，一年的云计算叙事都被改写了
2025亚马逊云科技re:Invent大会上，CEO Matt Garman围绕Agentic AI落地发布系列新品。其认为落地需四大支柱，亚马逊云科技带来如芯片、模型等成果，还强调私有数据及开发者工具重要性，多个企业已实践应用。
Anthropic：上下文工程在AI Agents的正确打开方式！
在‘提示工程’后，‘上下文工程’成焦点。它是提示工程延伸，因信息过多模型会‘失焦’，上下文是稀缺资源。文章介绍高效上下文‘解剖学’、运行时检索策略、长周期任务应对方法等。