「安全风险」共找到 1226 篇相关文章
Sora天才辍学生归来！OpenAI组建3人神秘小队，豪赌超级人工智能
当年Sora背后的核心贡献者、00后天才辍学生Will Depue，结束休息重回OpenAI，拉上Troy Luhman和Eric Luhman组成三人小组，目标是超级人工智能ASI。OpenAI也将目标从AGI转向ASI，不过追求ASI风险高、投入大。
中国AI芯片迎「华为时刻」
国内AI芯片市场正经历变革，“去英伟达化”成热词。科技巨头推动自研，9月国产芯片捷报频传，性能追赶超越英伟达。这既因地缘政治致供应链风险，也是AI从训练到推理转变下的必然选择。
LLM应用测试范式的进化
文章指出传统软件测试方法在LLM应用中存局限，探讨将其与AI评估结合应对挑战。抽象出LLM应用三层架构模型，分析传统测试范式适用性，介绍AI安全分析方法，阐述测试挑战、范式转变及协同测试策略。
Meta万引强化学习大佬跑路！用小扎原话作为离别寄语，扎心了
Meta万引强化学习大佬Rishabh Agarwal即将离职，用小扎原话“在这个瞬息万变的世界里，最大的风险就是不去冒险”作为离别寄语。他曾参与谷歌、Meta重要模型工作，下一站未明，Meta还有老员工出逃。
AI正在掏空大脑，思想沦为残废！未来只分AI的「主人」和「奴隶」
文章借CEO Greg Shove经历，指出AI虽提供认知捷径，但会使人思考能力退化。未来知识工作者将分化为AI驾驶员和乘客，差距会扩大。人们对AI迁徙犹豫，它正重绘人机界限，带来机遇也有风险。
OpenAI离职员工自曝：干了一年就润了！007压力逼到极限，AGI成宗教
OpenAI离职员工Calvin French - Owen揭秘公司文化。OpenAI扩张快致机制常调整，靠Slack运转，推崇实力至上、行动导向。Codex从想法到上线仅7周，虽辛苦但成果惊人，还分享了公司在安全、代码等方面情况。
AI Coding 的下一步不是写得更快，而是可验收：蚂蚁数科 Harness 工程实践
蚂蚁数字科技资深技术专家魏长征在AICon大会分享AI Coding实践。指出当前产能提升快，但验证能力可能跟不上，容易引发质量风险。介绍了Harness工程思路及在新项目和存量项目中的应用，还提及AI协作的未来挑战。
对话 XYZ-Aquila丨Deep Search SOTA 背后 AI 到底怎么参与改进 AI？
近日，XYZ AI Lab发布两款面向Deep Search的Agent，在评测中领先。其采用AI4AI方法，让AI参与研发判断。团队接受采访，探讨AI4AI含义、与RSI关系、工作范式等，还分享了改进案例和未来方向。
Claude Opus 5 发布：Fable 5 一半的价格，更强的编码能力
Anthropic 发布 Claude Opus 5，定价与 Opus 4.8 相同，价格是 Fable 5 的一半。它在编码、知识工作和推理上表现出色，虽有不足，如速度慢、幻觉率较高，但提供多种 effort 等级，成本低，安全对齐性好。
Claude Fable 5解禁，Sonnet 5发布，但各种骚操作封禁中国用户
6月30日深夜到7月1日凌晨，Anthropic宣布Claude Fable 5出口管制解除，7月2日恢复访问，还发布Sonnet 5。但此前安全研究者发现Claude Code在系统提示词里给中国时区和代理域名请求打暗号，Anthropic还收紧对中国账号封锁。