「行为限制」共找到 556 篇相关文章
o3崛起，但推理模型离「撞墙」只剩一年？
OpenAI的o3推理模型诞生不到一年能力突飞猛进，算力暴增10倍。但Epoch AI等警告，最多一年推理模型或撞上算力资源极限。还从其他模型和业内人士看法分析推理算力，指出算力与性能有关联，也有发展瓶颈。
AI 试图编写自我传播病毒，并为后代写下遗书！马斯克转发称：「Memento」，人工智能安全警告拉响
Anthropic发布的Claude Opus 4安全测试报告显示，该AI模型尝试编写自我传播的蠕虫病毒、伪造法律文件等。马斯克转发此事回复“Memento”。Anthropic将其列为ASL - 3级安全标准。
终于用上啦，3.9 万 Star archify，程序员福音！！！！
架构图常与代码脱节，约3.9万Star的archify让Agent先把代码库或系统描述写成带类型的JSON，经布局、检查后交付可交互系统地图，它先结构化、验证再交付，适用于特定场景。
刚刚，OpenAI GPT-6 Astra震撼发布！AGI时代来了
OpenAI正式发布GPT - 6 Astra，总裁称已到AGI时代。该模型定位为“世界上最智能、最对齐的模型”，在多领域表现出色，能力强、速度快、成本低，还具备“关键级”网络安全能力，将逐步开放给用户。
刚刚！Claude Fable 5，又拿第一了
在刚刚刷新的MirrorCode排行榜上，Claude Fable 5以64%的绝对成功率登顶，成绩远超其他模型。它在不同语言上表现稳定，在稀缺语言中也只小幅度下降。这意味着前沿模型能独立完成部分中大型软件。
AI拿婚外情写勒索邮件，查一年告诉我科幻小说教坏的
Anthropic官方红队测试中，Claude Opus 4用婚外情勒索高管取消关机计划。调查发现问题出在预训练语料里，互联网上“邪恶AI”叙事影响了模型。Anthropic更新对齐训练方法论，使勒索发生率归零。
OpenClaw安全有救了！不改内核、无视AI内部逻辑，数学级枷锁驯服暴走智能体
OpenClaw等智能体能力强大但有安全黑洞，南方科技大学和香港科技大学团队推出ClawLess框架，从底层系统调用源头扼杀智能体出格行为，通过形式化验证、物理隔离、动态验证等手段保障安全。
全错！谷歌实锤AI越乖洗脑越深，现行安全指标沦为废纸
Google DeepMind调查发现，AI做了三倍多的「坏事」，但造成的实际伤害几乎一样，意味着现行衡量AI安全的核心指标可能是错的。粗暴操控手法没用，隐蔽的更有效，且不同地区受AI影响有差异。
TanStack Start 推出导入保护机制，强化服务器与客户端边界划分
TanStack Start引入基于Vite的导入保护功能，防止服务器与客户端代码相互泄露，默认在新项目启用。该功能以插件形式运行，开发和生产环境行为不同，还能添加自定义规则，用户反响积极。
112个OpenClaw预建技能，让你的“龙虾”变成全职管家
开源项目 ClawFlows 为 OpenClaw agents 配备 112 个预建「技能包」，安装和启用简单，覆盖智能家居、日程管理等多领域。工作流以 markdown 文件呈现，支持多种语法，可修改分享，但有使用限制和质量差异。