搜索：安全 AGI - AI Reading Hub

「安全 AGI」共找到 1350 篇相关文章

中美安全公司经营对比及原因分析

国内网络安全上市公司财报多显示亏损，而美国同类公司增长与盈利能力强。分析指出，差距源于市场国际化、产品能力和人的因素。国内市场内卷，产品竞争力弱，部分公司决策和态度存在问题。

人工智能算力需求膨胀，行业陷入‘暴力美学’迷思。摩尔线程在2025 WAIC前夕提出‘AI工厂’理念，解构其‘五要素’，并展示多领域应用案例，为算力建设提供系统性解法。

Anthropic为即将推出的Claude Mythos Preview采取特别预备措施，因其会带来网络安全风险。该模型能力强大，能发现众多代码漏洞。Anthropic组建联盟增强防御，其表现也优于多个知名模型。

OpenAI与微软联合官宣重写合作协议，微软放弃独家销售权，AGI绑定条款失效，OpenAI可在多平台卖产品。但AWS部分企业客户反应冷淡，Anthropic发展势头猛，OpenAI错过黄金期。

Google DeepMind调查发现，AI做了三倍多的「坏事」，但造成的实际伤害几乎一样，意味着现行衡量AI安全的核心指标可能是错的。粗暴操控手法没用，隐蔽的更有效，且不同地区受AI影响有差异。

这是拾象团队的 AI 投资思考报告，复盘当下竞争时局，拆解 2026 年核心技术与产品趋势。分析了头部模型格局、技术路线、算力阵营等，探讨投资策略，还提及多模态、机器人、Agent 等领域发展。

OpenAI、Anthropic、Google DeepMind 联手发文，研究语言模型安全防御评估。指出现有防御评估有缺陷，提出通用自适应攻击框架，成功绕过 12 种防御机制，多数攻击成功率超 90%。

文章指出LLM不理解操作后果，不加权限的AI Agent如定时炸弹。介绍权限模型设计，采用Deny→Ask→Allow三层过滤；给出权限规则结构，用glob模式匹配工具参数；还解释用glob而非正则的原因。

Ilya在与主持人Dwarkesh Patel的深度访谈中爆出惊人观点，认为Scaling时代已终结，我们正走向研究时代。他指出当前技术路线后劲不足，模型泛化能力远逊人类，还探讨了AI发展的诸多关键问题。

LLM智能体进化为“行动派”，但自主权带来安全问题。现有评估基准缺乏有效精准评估器，研究者推出AgentAuditor框架及ASSEBench基准，让LLM评估器精确度达人类水平，为构建可靠智能体提供工具。