「模型风险」共找到 8129 篇相关文章
鼠标点3下就能锁定打击？五角大楼曝光美军AI大脑
美国国防部首席数字与人工智能官Cameron Stanley演示Maven系统，将美军杀伤链从小时压缩到分钟。Maven整合多系统，Palantir的AIP嵌入大模型改变战争决策逻辑。Anthropic因坚守安全红线与五角大楼冲突。
基于聊天的 AI 编程高效实践
本文探讨 Agent 对软件开发和开发者工作流的影响，以 GitHub Copilot“Agent 模式”构建维基搜索应用为例，对比不同 LLM 模型性能，指出要发挥 Agent 效能，可采用人机协作流程，经验是掌控其成果的关键。
Anthropic 新研究：AI出错是“热混乱”
Anthropic研究团队发现AI可能无一致目标，只是瞎搞。他们将AI错误分类，测试发现推理越久越混乱，大模型复杂任务易失控。此发现改变对AI风险的认知，论文已在arXiv发布。
数据土壤，决胜 AI 下半场：一场关于企业 Data+AI 战略的炉边思辨
2026年初，Snowflake与InfoQ联合举办活动，汇聚多领域专家探讨Data+AI前沿。回顾2025年，大模型迭代、AI安全等带来认知突破；还围绕2026年十大战略命题思辨，如企业Data+AI平台挑战、开源闭源博弈等。
腾讯混元最新开源：一套RL框架打通多个模态，庞天宇团队新作
大语言模型的RL技术已成熟，但多模态生成模型的强化学习训练仍“各自为战”，制约AIGC模型能力上限。腾讯混元庞天宇团队开源UniRL框架，打通多模态RL后训练，覆盖多种模型，内置算法与奖励组件。
打破资源瓶颈！华南理工&北航等推出SEA框架：低资源下实现超强多模态安全对齐
本文介绍北航彭浩团队的 SEA 框架，针对多模态大模型低资源安全对齐难题，用合成嵌入替代真实数据，突破资源瓶颈。还构建 VA - SafetyBench 评估安全风险，实验验证了 SEA 低资源、高泛化优势。
OpenClaw爆火，暴露12类致命隐患！MCP协议安全基准发布 | ICLR
OpenClaw等开源AI Agent项目爆火，MCP协议拓宽其能力也增大攻击面。北京邮电大学团队推出MSB安全基准，揭示MCP各阶段攻击有效，性能强的模型更易受攻击，还提出NRP指标平衡安全与实用性。
劈柴哥玩得上头！Nano Banana Pro 真杀疯了，但谷歌没接住用户的付费热情？
谷歌推出新图像生成与编辑模型 Nano Banana Pro，它基于 Gemini 3 Pro，能力提升，获大量好评。不过付费流程繁琐遭吐槽。此外，谷歌 CEO 回应了 AI 泡沫、岗位影响等问题。
AIGC全生命周期业务风控白皮书，从备案到运营的合规与安全实践
2025年9月15日《人工智能安全治理框架》2.0版发布，为AI风险防控指明方向。数美科技发布《AIGC全生命周期业务风控白皮书》，构建全生命周期业务风控体系，涵盖合规备案、安全评测、账号与内容风控等多方面。
Visual Studio 正式支持 MCP
2025年8月微软宣布模型上下文协议（MCP）在Visual Studio正式可用，为AI智能体与外部工具连接提供一致协议。开发人员可配置文件连接，管理员能管理使用。但存在限制和安全风险。