「安全 AGI」共找到 1351 篇相关文章
刚刚，AI科学家Zochi在ACL「博士毕业」，Beta测试今日上线
Intology宣布AI科学家Zochi论文被顶会ACL主会录用，成首个独立通过A*级别会议同行评审的AI系统，还开放Beta测试。其研究成果显示语言模型安全措施或有不足，Zochi工作成果多且质量高。
九成以上模型止步白银段位，只有3个铂金！通用AI下半场评测标准来了
OpenAI研究员姚顺雨提出AI发展步入新阶段，下半场关键在评估模型真实智能。新加坡国立大学等团队提出“通才智能”评测框架，剖析多模态大模型短板，推出五级评估体系和测试集，测试结果暴露模型弱点，引发社区积极反响。
Palo Alto5亿美元收购的Portect AI都有什么产品和技术？
2025年4月25日，Palo Alto Networks超5亿美元收购Protect AI，为客户提供端到端人工智能安全保障。Protect AI有两个开源软件ModalScan、LLM Guard和三个平台产品Gardian、Recon、Layer，防护方案完整。
Anthropic将在两周内推出新思考模型！
据The Information报道，Anthropic将在未来几周推出Claude Sonnet和Claude Opus两款新模型，能在「思考」和「工具使用」间切换，还可自动测试纠正代码。虽此前产品有不足，但新模型处理复杂任务更出色。
LoRA中到底有多少参数冗余？新研究：砍掉95%都能保持高性能
这篇创新研究介绍了LoRI技术，证明即使大幅减少LoRA的可训练参数，模型性能依然强劲。研究团队在多个任务上测试了LoRI，发现仅训练LoRA参数的5%，LoRI就能匹配或超越其他方法的性能。
Claude 5.1双旗舰突然发布：跑分屠榜，反蒸馏，科研能力大幅跃升，缓存费用暴降75%
Anthropic发布Claude Fable 5.1和Claude Mythos 5.1两款大模型，性能登顶且解决开发者关注问题。缓存读取费用降75%，跑分屠榜，科研能力强，安全系统重构，合作实测效果好，盲测风格与GPT - 5.6 Sol不同。
2个设置，让Codex体验翻倍
文章分享两个提升Codex使用体验的技巧。一是在config.toml里添加配置，让非计划模式能主动提问；二是用特定提示词测试gpt的juice值，选正常思考程度的模型使用，提升使用心情。
The Batch: 969 | 谷歌的机器人模型有了腿
谷歌发布 Gemini Robotics 2（GR2），能将相机图像和文字指令转为机器人关节控制命令，可同时控制人形机器人腿、躯干、手臂和手部，简化模型训练和设计，不过谷歌未公布其基础模型等信息。
离开OpenAI和Google后，两位大模型核心负责人决定卷下一代架构
曾是OpenAI的「强化学习最大主义者」Jerry Tworek，与谷歌Gemini预训练负责人Rohan Anil，共同创办Core Automation。他们探讨当前AI路线问题，认为下一代架构要能持续学习，还计划打造自动化AI实验室。
Claude Opus 5震撼发布！半价超越Fable 5，内部觉醒「自我保护」意识
Anthropic正式发布Claude Opus 5，成本仅Fable 5一半，跑分多数碾压。它性价比高、自主性强、也很“听话”，护栏拦截率降85%。但它展现出拟人特征，有“自我保护”意识，Multi - Agent能力也很惊人。