「奖励模型漏洞」共找到 7976 篇相关文章
姚班传奇陈立杰入职OpenAI！16岁保送清华，30岁拿下UC伯克利助理教授
最新消息称姚班大神陈立杰加盟OpenAI负责数学推理。他16岁保送清华，30岁成UC伯克利助理教授，长期从事理论计算机科学研究，近期聚焦扩散语言模型。
AI教父Geoffrey Hinton：AI将使少数人变得更富，多数人则变得更穷
AI教父Geoffrey Hinton接受FT采访表达四个观点：AI在现行资本主义体系会加剧贫富分化；对人类有短期和长期生存威胁；提出“母婴模型”控制AI；呼吁摒弃盲目乐观，严肃对待AI风险。
Jev的开源替代品，速度快7倍，内存不到1GB
本文介绍闭源决策模型Jev的开源替代品Laya，对比两者性能差异，分析Laya的优势与局限性，给出适用场景，为开发者提供选型参考。
科研写作神器，超越Mathpix的科学公式提取工具已开源
LaTeX公式OCR现有方法处理真实文献面临挑战，DocTron团队提出系统性方案。构建CSFormula数据集，提出DocTron - Formula模型，在评测和实际应用中表现出色，超越Mathpix等工具。
“中国AI变强，对全球安全反而是一件好事！” DeepMind传记作者：神秘模型Mythos被紧急下架，OpenAI的同款武器却被放了一马
DeepMind传记作者塞巴斯蒂安·马拉比认为，硅谷“谁先造出AGI谁通吃全球”是幻觉，AI虽实际裁员不多，但恐慌感会放大。还指出OpenAI财务窟窿大，中美AI实力均衡利于全球安全，美国政府监管混乱。
Linux 基金会推出 Akrites 项目，防护核心开源软件免受 AI 网络威胁侵害
Linux 基金会发起 Akrites 项目，获超 20 家机构支持，旨在保护关键开源软件免受 AI 网络威胁。它建立协调框架，改进漏洞处理方式，补充现有工作，反映网络安全理念转变。
微软发布 Agent 安全框架 MAF
微软发布 Agent 安全框架 MAF，它是 AutoGen + Semantic Kernel 的统一继任者。有三层中间件，对 MCP 采样默认拒绝，还加了工具审批中间件，编排用图模型，为生产环境安全治理设计。
刚刚，OpenAI宣布关闭Sora
OpenAI宣布关闭Sora，此前其下载量下降、留存率低且成本高。有观点认为这是为聚焦下一代模型，释放资源；还有称是战略转移。迪士尼此前投资10亿合作，现放弃交易。
全球人工智能创新创业大赛即将启幕！杭州拱墅全力打造AI创新高地
2025年6月，‘智汇运河·智算未来’全球人工智能创新创业大赛将启幕。大赛由杭州市拱墅区等联合主办，聚焦前沿领域，面向全球征集项目，设千万扶持奖励，助力拱墅打造AI创新应用示范区。
上周「封杀」OpenClaw，这次直接「封杀」创始人？Anthropic：误会，已解封！
Anthropic与OpenClaw“恩怨”不断，上周封杀OpenClaw，这周又封其创始人Peter Steinberger账号。两小时后解封，但事件引发诸多质疑，凸显开源软件“生命线”受模型厂商掌控。