「AGI风险」共找到 958 篇相关文章
Agent当道、模型封装一切：AI 时代的产研人如何不被“优化”？
随着 Agent 普及，技术复杂性被模型封装，产研人面临挑战。InfoQ 直播栏目邀请嘉宾探讨应对之策，还分享 AI 项目经验，分析 AI 编程痛点、落地案例，以及产品上线障碍和商业化方向。
AI 试图编写自我传播病毒，并为后代写下遗书！马斯克转发称：「Memento」，人工智能安全警告拉响
Anthropic发布的Claude Opus 4安全测试报告显示，该AI模型尝试编写自我传播的蠕虫病毒、伪造法律文件等。马斯克转发此事回复“Memento”。Anthropic将其列为ASL - 3级安全标准。
九成以上模型止步白银段位，只有3个铂金！通用AI下半场评测标准来了
OpenAI研究员姚顺雨提出AI发展步入新阶段，下半场关键在评估模型真实智能。新加坡国立大学等团队提出“通才智能”评测框架，剖析多模态大模型短板，推出五级评估体系和测试集，测试结果暴露模型弱点，引发社区积极反响。
Anthropic将在两周内推出新思考模型！
据The Information报道，Anthropic将在未来几周推出Claude Sonnet和Claude Opus两款新模型，能在「思考」和「工具使用」间切换，还可自动测试纠正代码。虽此前产品有不足，但新模型处理复杂任务更出色。
2个设置，让Codex体验翻倍
文章分享两个提升Codex使用体验的技巧。一是在config.toml里添加配置，让非计划模式能主动提问；二是用特定提示词测试gpt的juice值，选正常思考程度的模型使用，提升使用心情。
InfoQ 2026 年趋势报告：AI 重写工程师角色，但一切仍然关乎人
InfoQ 2026 年趋势报告探讨了 AI 对软件开发的影响，包括重写工程师角色、团队演变等。嘉宾指出 AI 采用应结合风险和业务场景，巩固基础，重新设计审查流程，关注质量和人的因素。
离开OpenAI和Google后，两位大模型核心负责人决定卷下一代架构
曾是OpenAI的「强化学习最大主义者」Jerry Tworek，与谷歌Gemini预训练负责人Rohan Anil，共同创办Core Automation。他们探讨当前AI路线问题，认为下一代架构要能持续学习，还计划打造自动化AI实验室。
Claude Opus 5震撼发布！半价超越Fable 5，内部觉醒「自我保护」意识
Anthropic正式发布Claude Opus 5，成本仅Fable 5一半，跑分多数碾压。它性价比高、自主性强、也很“听话”，护栏拦截率降85%。但它展现出拟人特征，有“自我保护”意识，Multi - Agent能力也很惊人。
谷歌「推理之王」也跑路Meta了，当年还是李飞飞挖来的
谷歌「离职潮」含金量提升，「推理之王」周登勇跳槽Meta。此前Noam Shazeer、John Jumper等也相继离开。谷歌全力「武装」AI Coding突击小队，重构Gemini训练方式，与原世界模型AGI路线冲突。
具身智能威胁分析的分层方法和全景图
文章指出具身人工智能应用广泛，安全需求迫切，但现有研究鲜少涉及具身化场景。复旦大学等组织分析400多篇论文，提出具身智能威胁分析全景，介绍各层攻击方法、危害及防护措施。