「AI安全研究」共找到 11121 篇相关文章
独家｜撬开Jev黑箱，对话全球首批复现者：9B小模型跑通79毫秒“快决策”
本文独家对话APUS AI首席科学家张旭，该团队完成全球首批爆火Jev模型的功能复现，开源相关成果，实现9B小模型79毫秒单次决策，拆解Jev底层逻辑，探讨快决策模型应用前景与Agent未来分工趋势。
Meta 打造“组织第二大脑”智能体的设计思路
Meta介绍了一款名为"组织第二大脑"的AI智能体设计思路，旨在捕获存储领域专家专业知识，架构结合结构化可审计知识与自改进闭环，无需重训模型即可更新，最初用于合规领域，可推广至多个领域。
4.8亿美元砸向端侧算力！Agent芯片新贵冲出重围
成立不到三年的Acrab成亚洲AI芯片新贵，累计融资超4.8亿美元，新资金用于扩产、拓展生态及研发下一代平台。该司押注端侧算力，发布芯片GΞLIX 1和Agent Box，其产品进入量产验证。
Auto-Research「终极大考」：新基准撕下大模型科研伪装
来自多所高校的研究者提出MLS - Bench，用于解决现有Auto - Research评测的归因问题。它含140个真实研究任务，校准受控修改范围，主实验显示当前模型在方法发现上有明显缺口，Auto - Research需更严格评测标准。
76%的性能提升与模型无关？Karpathy 700次 Loop 实验揭开 Agent 最大误区
前OpenAI联合创始人Andrej Karpathy警示业界重视模型框架。Hugging Face实验表明优化模型外层执行机制可大幅提升Agent性能，Karpathy开源项目揭示AI价值在循环迭代。还介绍了搭建持续进化Agent的方法及注意事项。
满分的「差」，Qwen与复旦等揭示编程智能体奖励设计的结构性困境
Qwen团队与复旦等联合发表论文《The Verification Horizon: No Silver Bullet for Coding Agent Rewards》，指出编码智能体奖励设计存在结构性困境，任何奖励信号只是人类意图的‘替身’，验证需成系统与智能体协同演化，并研究多种验证者。
一人公司创业，如何找对方法论、选准装备库？
AI让一人做产品更易，全国一人有限责任公司数量增长，相关服务生态成形。时踪由阿泰独立研发，从个人痛点出发做出产品，其95%云服务选阿里云。阿里云为OPC创业者提供阶段化“装备库”。
刚刚，翁荔博客上新：谨慎对待Scaling Law
翁荔新作《谨慎对待 Scaling Law》上线，文章涵盖 Scaling Law 预测内容、计算最优分配原理等。介绍了早期对机器学习损失可预测性的研究，还对比了 Kaplan 等人与 Chinchilla 的 Scaling Law，分析了两者分歧原因。
混元开源PhoneBuddy-4B与5篇系列论文：多项手机Agent真机评测超过GPT-5.4
腾讯混元Phone - use Agent团队发布PhoneBuddy - 4B及5篇系列论文。研究探讨如何训练真实可用的Phone - use Agent，采用Real + Mock方式，实验显示该方法提升效果显著，4B模型多项任务超GPT - 5.4。
体验完微信Agent以后，我觉得这就是微信有史以来最大的更新。
作者获微信小微内测资格，深度体验后认为这是微信最大更新。微信Agent打通原生能力有超预期之处，但智能程度不足。功能上有亮点也有限制，如通讯录操作谨慎、小程序适配佳，还能生成小工具。