「风险点」共找到 1252 篇相关文章
AI 试图编写自我传播病毒，并为后代写下遗书！马斯克转发称：「Memento」，人工智能安全警告拉响
Anthropic发布的Claude Opus 4安全测试报告显示，该AI模型尝试编写自我传播的蠕虫病毒、伪造法律文件等。马斯克转发此事回复“Memento”。Anthropic将其列为ASL - 3级安全标准。
一键式训练端到端Agent，Qwen3+MCP工具集高效集成！
RLFactory是开源的端到端RL后训练框架，将环境与RL后训练解耦，有极致易用、高效训练等特点。它让用户专注奖励逻辑和工具配置，还能提升训练效率，用Qwen3和MCP工具可快速训练DeepSearch模型。
红杉中国推出 Agent 基准测试「xbench」，双轨评估体系，关注 AI 真实场景的效用
红杉中国开放AI和Agent基准测试工具「xbench」，采用双轨评估体系，构建多维度测评数据集。首期发布两个核心评估集并排名，提出垂类Agent评测方法论。该工具旨在解决现有评估问题，关注AI真实场景效用。
Anthropic曝光自家整套，AI原生研发手册
Anthropic 在官方博客发布两篇内部实践文章，《The AI-Native SDLC Playbook》讲 AI 承担多数编码工作时软件流程安排，《How Anthropic secures its AI-native software development lifecycle》谈流程自动化后安全体系建设。
InfoQ 2026 年趋势报告：AI 重写工程师角色，但一切仍然关乎人
InfoQ 2026 年趋势报告探讨了 AI 对软件开发的影响，包括重写工程师角色、团队演变等。嘉宾指出 AI 采用应结合风险和业务场景，巩固基础，重新设计审查流程，关注质量和人的因素。
对话景鲲：AI 产品的 All in One，是上下文的 All in One
Genspark 创始人景鲲在 AGI 舞台分享发展路径，其产品从 AI 搜索转型，现推出全功能 AI 办公套件。景鲲判断，未来大模型竞争激烈会商品化，AI 公司壁垒在于捕获用户工作上下文，实现「All in One」AI 工作空间。
超 2 万人收藏！配一次 MCP，Claude Code 和 Cursor 都能用！这个开源项目火了！
OpenWork是开源AI编程工作区平台，是Claude Cowork开源替代品。它能让不同AI Agent共享技能等，有跨工具工作流共享、可视化审计等亮点，还给出四种快速上手方法。
奥特曼马斯克豪言：我们已进入奇点！AGI加速窗口已至
新智元报道，奥特曼和马斯克都认为奇点已至，当下处于AGI加速窗口。OpenAI曾靠资源猛追让Codex逆袭。但AI发展也引发担忧，如人类能否保持理智、安全对齐进展不明等。
李飞飞LeCun疯狂加注！这匹中国黑马，已在因果AI暗战6年
世界模型成AI核心战场，背后是行业向因果科学转向。多数人2026年关注“因果”，中国零犀科技早在2020年就探索因果AI，自研因果大模型，搭建工程架构，将能力融入业务体系，提前布局优势凸显。
具身智能威胁分析的分层方法和全景图
文章指出具身人工智能应用广泛，安全需求迫切，但现有研究鲜少涉及具身化场景。复旦大学等组织分析400多篇论文，提出具身智能威胁分析全景，介绍各层攻击方法、危害及防护措施。