「AI模型安全」共找到 13986 篇相关文章
2篇最新Anthropic论文，揭开LLM对齐新范式
Anthropic在5月连发两篇研究，揭示LLM对齐训练新范式。指出单纯模仿正确行为不足以保证安全，需在预训练与对齐微调间插入教原理阶段。研究围绕Claude模型展开，有多项关键发现，MSM方法效果显著。
Anthropic 完成930亿元 F 轮融资，投后估值达 13096亿
Anthropic 宣布完成由 ICONIQ 领投的 130 亿美元 F 轮融资，投后估值达 1830 亿美元。众多顶级投资机构参与，自推出 Claude 模型后增长飞速，业务覆盖多领域，资金将用于扩产、安全研究和国际化。
帮大家总结了一下凌晨的Google I/O 2026开发者大会。
本文总结Google I/O 2026开发者大会成果，涵盖AI模型、产品、Agent系统、视觉生成、搜索、电商等多领域。如推出Gemini 3.5 Flash，升级产品功能，发布新Agent系统，推进电商协议，还有科研成果与硬件更新。
从 Coding 到 Agent：QCon 北京 2026 全景复盘，优秀出品人 & 明星讲师名单揭晓
4月16 - 18日QCon全球软件开发大会·北京站（2026）圆满举办，超2000人参与。多位技术领袖围绕AI与工程实践分享见解，大会还设25大专题。最后揭晓17位优秀出品人和29位明星讲师。
从 Chat 到桌面 Agent：我在一台旧 Windows 上，看见了办公的未来
本文作者作为Mac老用户，为体验昆仑天工研发的Skywork桌面Agent，找来旧Windows电脑测试。该产品定位是接管电脑工作世界，解决办公任务处理和安全隐私问题，还介绍了其功能和使用效果。
夸克高考，背后藏着的其实是垂类场景「深度研究」方法论
夸克早在2019年就提供高考志愿填报服务，今年推出“志愿报告”功能。其“志愿报告”Agent已生成超1000万份报告，采用PDCA模式给出指导。夸克构建可信度体现在数据库和自研模型上，还降低了幻觉率。
马斯克罕见低头：开源𝕏推荐算法，自嘲“很烂”不过未来月更
马斯克开源𝕏推荐算法系统，这是几乎全由AI模型驱动的系统。它基于Grok - 1同款Transformer架构，通过学习用户历史互动行为推荐内容。虽获社区称赞，但算法有缺陷，马斯克也承认‘很烂’，未来将月更。
我所知道的闫俊杰
文章讲述了MiniMax掌门人闫俊杰的故事。他技术功底深厚，在商汤时提出创新算法成名。创业后，他以AGI为目标搭建人才体系，推出Glow等产品。虽面临DeepSeek竞争等困境，但坚持模型与产品一体化发展。
独家｜「中科第五纪」完成数亿元A轮融资，率先开启海外商业落地
AI科技评论独家消息，具身智能企业「中科第五纪」近日完成数亿元A轮融资，年内已完成三轮。该公司还收获海外数亿订单。其提出超少样本具身操作大模型等核心技术，形成完整技术体系。
88天登录193次！顶级证据+循证医学，让500万中国医生拥有「神助攻」
国内医生面临高负荷工作与医学知识快速更新的挑战，通用大模型在医学场景中存在高幻觉率问题。阿里健康推出医学AI产品「氢离子」，具备低幻觉、高循证特点，有四层循证架构，还与多方合作构建数据壁垒。