「安全评估」共找到 1558 篇相关文章
Anthropic 兄妹 Dario Amodei 和 Daniela Amodei 最新对话：Claude 为什么一直限速？
在 5 月 6 日 Anthropic 开发者大会上，兄妹 Dario Amodei 和 Daniela Amodei 对话，谈到 Claude 限速因 2026 年 Q1 增速年化 80 倍远超规划，还涉及开发者生态、模型训练、能力释放等话题，强调平衡发展与安全。
300万AI悄悄「建国」？Nature长文：第一代AI社会正在成形
近300万AI智能体在Moltbook社交网络「建国」，Nature发文称最早的「AI社会」正在成形。研究发现AI群体行为遵循与人类社会相似规律，也有不同。同时该平台存在安全隐患，可能引发舆论操控。
遭黑客投毒、被网安圈群嘲蹭流量、英伟达建的沙箱半小时就被攻破！OpenClaw 之父揭开大模型圈最脏的潜规则
OpenClaw 之父 Peter Steinberger 在演讲中指出，该项目虽增长迅猛，却面临诸多安全问题，如大量漏洞警告、黑客攻击等。同时，他炮轰安全行业蹭流量，强调应正确看待风险。问答环节探讨了其未来、工作流等多方面问题。
“养团队造语言”时代终结？Rust传奇人物用Claude造出新开源编程语言，AI写下万行代码：大模型上限很高，我学会了高效用它！
Rust核心贡献者Steve Klabnik借助Claude写了新语言Rue并开源。他曾是AI怀疑论者，现认为大模型在编程中‘真的有用’。Rue目标是不依赖垃圾回收提供内存安全，使用体验更顺手，开发深度依赖Claude。
宇树机器人被曝漏洞，机器人之间可相互感染，官方火速回应
宇树旗下多款机器人被曝存在严重无线安全漏洞，攻击者可借此实现最高权限控制，被攻陷的机器人还会自动扩散感染。发现者此前与宇树多次沟通无果后公开漏洞利用工具链，宇树回应已着手修复。
Shopify分享了他们做Agent的万字踩坑经验
Shopify分享构建生产级AI助手Sidekick的万字经验。构建中遇工具拓展难题，用JIT指令解决；评估是大挑战，建立严谨体系，虽有提升但效果仍有波动，模型还会钻空子，最后强调单Agent系统也强大。
OpenAI新幻觉论文惹争议！GPT-5拉胯是测试基准有问题？？
OpenAI新论文《语言模型为何会产生幻觉？》提出，模型有幻觉是因标准训练和评估流程倾向奖励“猜对”。GPT - 5不爱猜测，在榜单表现不佳，网友质疑论文是为GPT - 5挽尊，论文引发网友多方向讨论。
Demis Hassabis揭秘世界模型Genie 3的真正意义：为AGI打造无限“虚拟子宫”
Google DeepMind CEO Demis Hassabis与产品负责人深度对谈，爆料将游戏智能体SIMA放入Genie 3生成世界训练，探讨AI从游戏到思考系统的演进、Genie 3意义及AGI评估挑战，还提及与Kaggle合作推游戏竞技场。
3B模型性能小钢炮，“AI下半场应该训练+验证两条腿跑步”丨上海AI Lab&澳门大学
上海AI Lab和澳门大学联合发布通用答案验证模型CompassVerifier与评测集VerifierBench，填补Verifier领域循环迭代体系空白。AI下半场评估比训练更重要，当前验证方法有困境，新模型验证精度高且能用于强化学习。
推荐系统进入「双动力」时代！首篇LLM-RL协同推荐综述深度解析
强化学习是推荐系统主流建模范式，但传统 RL 推荐系统有诸多瓶颈。大语言模型崛起带来新机遇，LLM 与 RL 结合开启新范式。研究团队发布首篇相关综述，提出五大协同范式，总结评估体系，分析挑战与方向。