「AI模型安全」共找到 13965 篇相关文章
Claude 5.1来了，但最强能力只向少数机构开放
9月1日，Anthropic发布Claude Fable 5.1和Claude Mythos 5.1，二者用相同底层模型，区别在安全限制和开放范围。Fable面向订阅用户和企业，Mythos仅向少数审核机构开放，此次还尝试新的开放方式。
刚刚，Anthropic 宣布：Claude 自己长出了意识
Anthropic新研究《语言模型中的全局工作空间》，在Claude神经网络里找到特殊区域J - space，它有独特性质，对应全局工作空间理论。还介绍了发现方法及多个实验，探讨其与意识关系，研究已开源。
Figure 03重磅发布！指尖能感知回形针重量，年产1.2万台，这次要让人形机器人走进千家万户
Figure AI公司发布第三代人形机器人Figure 03，专为Helix、家庭和大规模应用设计。它有全新传感与手部系统，能感知回形针重量，还做了安全、易用设计，实现低成本量产，适用于家庭和商业场景。
AgentScope x RocketMQ：打造企业级高可靠 A2A 智能体通信基座
文章介绍 Apache RocketMQ 新推的 LiteTopic 通信模型，能简化 AI 系统架构、提升稳定性。结合 A2A 协议与 AgentScope 框架案例，剖析智能体通信实践与技术实现，还给出构建多智能体应用的实战方案。
有人把巴菲特芒格炼化成Agent，然后开源了…
AI Hedge Fund项目将12位世界级投资大佬“炼化”成Agent，可实时分析股票、完善交易策略，还内置回测模块。它兼容13种大模型，部署门槛低，开源后获高星。不过多数框架未实盘，投资有风险。
黑客已死！Claude 两周挖出 Firefox 22 个漏洞
Anthropic与Mozilla合作，让Claude Opus 4.6对Firefox代码库做漏洞挖掘，两周发现22个漏洞，14个高危。Claude发现漏洞能力强，但利用漏洞能力弱。还研究用LLM做「补丁Agent」，为AI辅助安全研究建规范。
Agent与工具交互平台级探索，只用接入一个MCP服务就能调用6000+工具
在模型性能趋同背景下，知识库、工具成AI应用差异壁垒。MCP规范Agent与工具交互，但在实际生产中有挑战。ACI.dev项目维护者Aipotheosis Labs探索简化Agent与外部工具集成等过程，对企业级应用有示范意义。
后训练中的RL已死？MIT新算法挑战传统后训练思维，谢赛宁转发
MIT研究人员提出RandOpt新算法，挑战传统后训练思维。该算法通过随机扰动和集成突破限制，在多任务中表现出色，揭示了预训练模型权重空间的“神经丛林”现象，引发AI社区关注。
GPT-5：我更强了，就这？“看不见”的升级
OpenAI 发布 GPT - 5，它未带来 AGI 相关的震撼升级，而是更注重实用。其训练有新特点，具备推理强、编程能力提升等特性，是 AI 从‘模型炫技’到‘产品体验打磨’转变的标志。
OpenAI核心研究员坦白：上万Agent自发成军，奇点已经到来，三个月后无法预测
本文整理OpenAI核心研究员、o1推理模型开创者Noam Brown的访谈，披露OpenAI上万自发协作多智能体的技术突破，探讨AI发展远超人类预判，奇点临近，解决对齐问题的时间窗口正快速闭合