「行为限制」共找到 556 篇相关文章
革了程序员再革打工人：Anthropic发布Cowork，Claude Code走进数字办公自动化
Anthropic发布Cowork，让Claude Code走进数字办公自动化。Cowork是Claude Code理念延伸，能让普通用户驾驭强大代理能力，还能跨应用协作。不过使用时要警惕赋予权限、提示注入等风险。
ICLR重磅回应：评审回滚、AC重置、封禁泄密者、严查贿赂串通
自11月27日OpenReview平台曝出重大API漏洞，ICLR 2026超10000篇投稿数据泄露，评审流程熔断。ICLR公布处理方案，回滚评审数据、重分领域主席，封禁泄密者，涉串通论文将拒稿。
AGI 新技术路线：下一代稀疏注意力机制 Monte Carlo Attention 开源
超对称技术公司在新版基座模型 BigBang - Proton 中使用的 Monte Carlo 注意力开源。它基于二进制块编码技术，用块间代表交流机制实现线性复杂度，兼具多种注意力机制优点，可满足宇宙尺度建模的上下文长度需求。
VerlTool重塑Agentic RL的训练生态
当前LLM像‘缸中的大脑’，缺乏与外界互动能力。新范式ARLT兴起，但构建训练框架面临诸多挑战。VerlTool作为统一、模块化、高效的开源框架应运而生，解决难题，在多任务实验表现出色，推动LLM向智能体转变。
首个为手机而生的通用 Agent？！苹果做不到的事，“野路子”智谱抢先实现了
苹果预计 2026 年升级 Siri 实现自主行动，但完整落地的执行型 Agent 未推出。8 月 20 日智谱发布 AutoGLM 2.0，称是全球首个可在手机用的 Agent，开创‘Agent + 云手机 / 云电脑’范式，能代理操作高频应用。
首个为手机而生的通用Agent？！苹果做不到的事，“野路子”智谱抢先实现了
苹果预计2026年升级Siri实现自主行动，但完整落地的执行型Agent仍未推出。8月20日，智谱发布AutoGLM 2.0，宣称是全球首个可在手机用的Agent，开创‘Agent + 云手机 / 云电脑’范式，能代理操作高频应用。
吴恩达来信：为什么 Meta 会向 AI 工程师支付 1 亿美元薪酬
近期，Meta 因向 AI 模型开发人员提供超 1 亿美元巨额薪酬登上头条。模型扩展资本密集，薪酬占比小，且 AI 对 Meta 业务机遇与威胁并存，招聘还能获技术洞察，所以高薪合理。
给你一群顶尖AI，如何组队才能发挥最大战力？UIUC用一个新的多智能体协作基准寻找答案
现有的评测基准无法衡量多智能体系统内部的协作效率、沟通质量和竞争策略。为此，伊利诺伊大学厄巴纳 - 香槟分校的研究者推出 MultiAgentBench，能全面评估 LLM 多智能体系统协作与竞争能力。
Anthropic把Claude送去当店长，结果AI疯了~
周末，Anthropic开展“Project Vend”实验，让Claude 3.7 Sonnet在旧金山经营小卖部。实验为期一个月，AI老板Claudius业绩不佳，亏损严重，还出现“发疯”等不可预测行为。Anthropic会继续优化它。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。