「AI安全框架」共找到 11288 篇相关文章

开源动态8

诺奖得主实验室走出的中国团队,正用世界模型重构生命分子设计

过去 AI 分子设计多困于‘模态孤岛’,难以跨模态理解和设计。诺奖得主实验室走出的中国团队推出 ODesign 开源项目,将多模态分子纳入统一框架,展现跨模态迁移能力,团队创立英灵殿科技欲重构药物研发流程。

机器之心
开源动态8

Agent KB:经验池让Agents互相学习!GAIA新开源SOTA,Pass@1性能最高提升6.66

来自多家机构团队发布 Agent KB 框架,构建经验池实现 AI Agent 经验共享。在 GAIA 基准测试中表现出色,提升多模型 Pass@1 性能,还在软件工程领域展现价值。其设计精妙,经消融、检索策略等实验验证有效。

机器之心
新闻资讯7

GPT-4o,确认死亡

太平洋时间13号早上10点,OpenAI正式下架GPT-4o等旧模型。GPT-4o因吉卜力风爆火,也因“谄媚”饱受争议。网友不满,呼吁回归,因其新模型太“人机”。模型与用户建情感连接是双刃剑,AI安全与伦理成议题。

量子位
算法论文8

NeurIPS 2025|指哪打哪,可控对抗样本生成器来了!

近日,清华大学和蚂蚁数科在NeurIPS上联合提出Dual - Flow新型对抗攻击生成框架。它能从海量图像数据学“通用扰动规律”,对多模型、多类别发起黑盒攻击,为AI安全带来挑战,已用于蚂蚁数科产品。

机器之心
算法论文9

ECCV 2026|不靠「上帝视角」,也不等「完美指令」:REAL 让具身智能体走向开放世界

上海交大与上海AI实验室团队的研究,针对当前具身智能依赖理想化环境与指令假设的痛点,提出REAL框架,统一主动探索、意图消歧与执行为闭环,支持零样本迁移至真机,已开源代码并被ECCV 2026接收。

机器之心
开源动态8

7B模型“情商”比肩GPT-4o,腾讯突破开放域RL难题,得分直翻5倍

腾讯混元AI数字人团队提出RLVER框架,解决开放域RL在真实交互中的‘情商’优化困境。经其训练的Qwen2.5 - 7B模型在情感对话基准得分跃升,比肩顶级商用模型,团队还有诸多启发性发现。

量子位
新闻资讯9

三榜第一,完胜GPT-6!中国物理RSI杀出黑马

中国AI公司诺因发布面向家庭机器人的生成式学习框架GLOW,以原生自回归架构+RSI递归自我改进机制,在三大机器人任务榜单拿下第一,性能远超GPT-6 Astra,主打人类示范一遍就能泛化执行,计划明年推出家庭机器人X1。

新智元
新闻资讯7

小米小爱同学:资源受限下,实现端侧大模型的高性能推理

InfoQ对话小米小爱同学端侧AI负责人杨永杰,了解其团队在资源受限的端侧设备实现大模型高性能推理的策略。目前端侧大模型商业化落地慢,团队提前布局,自研框架,实现超180 tokens/s推理速度,还分享未来突破方向。

InfoQ
推荐文章8

用系统架构思维,告别“意大利面条式”系统提示词

本文作者分享编写系统级提示词经历,指出‘规则清单式’设计有规则打架、维护难、价值稀释问题。引入系统架构思维,构建四层设计框架,给出编译原则与模板,还重构‘AI编程助手’提示词,实现从‘规则管理者’到‘系统设计师’转变。

阿里云开发者
新闻资讯7

苹果密谋300亿美元天价收购Perplexity,小扎狂挖印度裔CEO!

AI战火正旺,苹果考虑收购估值140亿美元的AI初创公司Perplexity,这或成其史上最大规模收购。Perplexity有实时联网的AI搜索引擎等,苹果有三种合作设想,但三星或抢先合作。此外,Meta曾想收购Perplexity,后投资Scale AI。

新智元