搜索：人工智能安全治理

「人工智能安全治理」共找到 1453 篇相关文章

全网疯传！Claude最新模型意外曝光：全面碾压Opus 4.6，强到让Anthropic不敢发布

Anthropic“手滑”泄露最强新模型Claude Mythos，它在编程、推理和网络安全测试中表现超Claude Opus 4.6。因模型“黑客能力”强，Anthropic发布谨慎。此外，该公司还意外泄露3000多未发布文件。

人工智能下半场关键词是“行动”，Agent Skill成关键桥梁。Agent Skill开发者大赛今日启动，由AIGC开放社区与算泥社区联合主办，聚焦真实任务执行，设双赛道，官方提供支持，有丰厚奖励。

OpenClaw 3.24 发布，改动显著。Skills 安装更顺滑，系统自动检测依赖；控制台界面大改，侧边栏更易用；修复媒体文件访问漏洞；Microsoft Teams 支持升级；还修了多平台群聊 Bug，新增 API 端点，提升 RAG 兼容性。

当前主流 Agent 工具链执行层基本空白，Violoop 是少数在执行层做系统化设计的项目。它是桌边触屏硬件，获取三类运行时数据，具备感知 - 判断 - 执行运行时，有多种核心能力，适合特定场景团队评估。

硅谷正用 token 吸引人才，国内也有类似趋势。AI 使用成本渐成人力成本关键，token 对应算力争夺，其价格上涨，大厂还想将 token 变成新价值单位，引发质疑。

Anthropic研究员用Claude Opus 4.6智能体团队，让16个Claude自主协同，花两周和2万美元，编写出超十万行代码的C语言编译器，能运行《毁灭战士》、编译Linux内核，但也暴露了一些局限。

开源AI编程工具OpenCode亮相，具备原生终端界面、多会话支持，兼容75种以上模型，提供桌面版和IDE插件。它允许沿用付费订阅，内置免费模型，与多种LSP服务器整合，适配多种编辑器，采用‘隐私优先’架构设计。

谷歌Jeff Dean和图灵奖得主John Hennessy等联合发布报告《塑造AI对数十亿人的影响》，拒绝AI极端观点，选择务实。报告剖析打破“饭碗焦虑”、重塑教育医疗等内容，Laude研究所也开展实战评估项目。

AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。

OpenAI推出ChatGPT Health，可连接病历和健康应用，基于用户健康信息回应。它有强化隐私保护，与医生合作设计，不取代医疗护理。先向部分早期用户开放，后续将面向网页和iOS用户。