「对齐风险」共找到 698 篇相关文章
DeepSeek-R2要来了？
DeepSeek-R1发布一周年之际，其存储库更新引用全新「model 1」模型，极可能是R2。HuggingFace发文称R1降低技术、采用、心理三重壁垒。R1以推理优先，改变多项认知，故事仍在继续。
Claude 的新功能 Cowork：让 AI 真正帮你干活
Anthropic将Claude Code能力包装成Cowork，让非程序员也能用。它能读、改、创建文件，可接已有连接器，与Claude Code共享技能生态，现处研究预览版，对Mac上Claude Max订阅用户开放。
天使轮数千万元融资，这家公司想成为 AI 时代用户的安全执行顾问
主打认知安全的缔零科技获数千万元天使轮融资，资金用于「缔零法则」技术迭代等。其产品以AI治理AI，降本增效。公司曾推「缔零智数」，现「缔零法则」把控模型推理。未来有ToC计划，想成用户安全助手。
喊话谷歌、OpenAI，微软AI CEO亮出「人文超级智能」底牌
微软AI CEO苏莱曼称AI已超越人类，他在组建微软超级智能团队时提出「人文主义超级智能」概念，认为超级智能发展有风险，要确保AI站人类一边，还看好其在医疗领域应用。
NUS LV Lab新作｜FeRA：基于「频域能量」动态路由，打破扩散模型微调的静态瓶颈
在大模型时代，参数高效微调（PEFT）已成为迁移大规模扩散模型至下游任务的标准范式。但现有微调方法多采用「静态」策略，忽略扩散生成过程内在规律。新加坡国立大学LV Lab等机构提出FeRA框架，通过频域能量动态路由，实现高效微调。
对话英诺王建明：机器人目前面临的核心问题是数据 | GAIR 2025
英诺天使基金王建明在访谈中指出机器人核心问题是数据，若不解决，具身行业现有范式难行。她还分享对行业认知、投资项目看法，分析资本现状、风险及格局，对创业者给出建议。
视觉思维链全新架构，加州大学让多模态大模型有了灵性，整体性能提升5.3%
加州大学伯克利分校等团队提出视觉思维链（CoVT）架构，让视觉语言模型推理时生成连续视觉信号。它内化轻量级专家能力，采用对齐策略和四阶段训练，实验显示性能提升，还具可解释性。
劈柴哥玩得上头！Nano Banana Pro 真杀疯了，但谷歌没接住用户的付费热情？
谷歌推出新图像生成与编辑模型 Nano Banana Pro，它基于 Gemini 3 Pro，能力提升，获大量好评。不过付费流程繁琐遭吐槽。此外，谷歌 CEO 回应了 AI 泡沫、岗位影响等问题。
OpenAI与爱泼斯坦的联系断了
随着20000页文件曝光，曾被视为OpenAI成熟监管者的前财长萨默斯，因被揭露曾向性犯罪者爱泼斯坦寻求「僚机」服务而跌落神坛，于昨日被迫辞去董事职务。这场丑闻不仅终结了萨默斯在硅谷与哈佛的权力版图，更在OpenAI刚刚完成商业化转型的关键时刻，撕碎了精英治理的假面并留下了巨大的权力真空。
微软修复严重性评分达 9.9 分的 ASP.NET Core 漏洞
微软发布安全公告，修补 ASP.NET Core 关键漏洞（CVE-2025-55315），CVSS 得分 9.9 分。该漏洞存在于多个版本，攻击者可绕过安全特性，或致权限提升等风险，微软建议升级修复。