智能体安全」共找到 4176 篇相关文章

算法论文8

ACL 2025 | 指令遵循不能仅靠常识?GuideBench 揭示大模型如何“踩雷”领域指南规则

这篇ACL 2025主会论文聚焦提升智能指南规则遵循能力。提出评估基准GuideBench,涵盖7类1272个任务。实验显示多数主流大模型指令遵循能力不佳,尤其数学推理挑战大,为模型迭代提供评估基准。

深度学习自然语言处理
新闻资讯8

2025年4月17日消息,OpenAI 连发o3和o4 mini,o3为强大推理模型,o4-mini专为高效推理优化。它们能调用ChatGPT工具,可基于图像思考。OpenAI还开源本地代码智能Codex CLI,兼容所有模型。

鱼羊
开源动态7

OpenAI解密大模型失控:它不是变坏,而是「太听话」

OpenAI公开IH - Challenge,解决大模型指令冲突难题。指出大模型问题多因听信错误指令,给出系统>开发者>用户>工具的指令层级结构,设计数据集训练模型遵循高信任等级指令,提升安全可控性与抵御提示词注入能力。

新智元
算法论文8

博士学位答辩PPT分享 | 基于机器学习的复杂流场预测方法研究

左奎军博士论文聚焦基于机器学习的复杂流场预测,以多种对象构建智能流场预测网络架构,发展耦合求解方法,剖析核心要素影响,提出多个创新模型和策略,还分析了不同模型在流场预测中的表现与问题。

力学与人工智能
产品应用8

国产物理AI黑马杀出!超越GPT与斯坦福Biomni,狂揽生物制造SOTA

恩和科技发布全球首个面向生物制造的物理人工智能平台 SAION AI,打破大模型只能虚拟辅助的刻板印象。它有认知、控制与闭环执行三层架构,在多项测试中表现领先,具备多方面核心优势,推动生物制造进入智能工程时代。

新智元
产品应用7

AI大模型重塑学习硬件:从工具到伙伴 | 网易有道孟旭

在 AICon 全球人工智能开发与应用大会·上海站(2025)现场,网易有道孟旭以有道 AI 答疑笔为例,分享智能学习硬件变革逻辑,指出其进化是用户需求、硬件创新与 AI 技术螺旋推进,还探讨大模型应用及未来方向。

InfoQ
产品应用8

双手取货+漂移搬运,WRC明星机器人告诉大家:什么是高级操作|甲子光年

去年90后创业者王鹤提出具身智能产品化思路,一年后银河通用在零售和工业找到业务切口。2025 WRC上其Galbot机器人表现亮眼,会前还发布银河太空舱,开启‘十城百店’计划,以务实方式推动人形机器人商业化。

甲子光年
产品应用8

突发!Claude Opus 5深夜震撼发布,多项跑分锤爆Fable 5,价格腰斩

Claude Opus 5正式发布,总智能逼近Claude Fable 5,价格仅为一半,多项跑分超Fable 5。它专为高频使用设计,各领域进步显著,有强自我验证和迭代能力,还发布API更新与提示词编写指南。

AI寒武纪
新闻资讯7

ChatGPT聊天记录成法庭铁证,韩国汽车旅馆双命案反转

韩国一女子用含苯二氮䓬类药物的饮料毒杀两名男子,警方从其手机挖出与ChatGPT的对话记录,成判定其杀人意图的铁证。此案件暴露AI安全漏洞,也引发对AI失控风险及数据隐私的担忧。

新智元
产品应用8

聚焦手机AI“超级入口”,中兴Nebula小模型让手机秒变“小秘”?

移动智能时代,手机AI“超级入口”成竞争焦点。美团率先推出AI Agent,中兴通讯自研Nebula-GUI模型表现亮眼,在测评中获佳绩,已在多款手机商用,还开发数据制备系统,经监督微调、双层强化学习提升性能。

量子位