「对齐风险」共找到 732 篇相关文章
对话英诺王建明：机器人目前面临的核心问题是数据 | GAIR 2025
英诺天使基金王建明在访谈中指出机器人核心问题是数据，若不解决，具身行业现有范式难行。她还分享对行业认知、投资项目看法，分析资本现状、风险及格局，对创业者给出建议。
视觉思维链全新架构，加州大学让多模态大模型有了灵性，整体性能提升5.3%
加州大学伯克利分校等团队提出视觉思维链（CoVT）架构，让视觉语言模型推理时生成连续视觉信号。它内化轻量级专家能力，采用对齐策略和四阶段训练，实验显示性能提升，还具可解释性。
劈柴哥玩得上头！Nano Banana Pro 真杀疯了，但谷歌没接住用户的付费热情？
谷歌推出新图像生成与编辑模型 Nano Banana Pro，它基于 Gemini 3 Pro，能力提升，获大量好评。不过付费流程繁琐遭吐槽。此外，谷歌 CEO 回应了 AI 泡沫、岗位影响等问题。
OpenAI与爱泼斯坦的联系断了
随着20000页文件曝光，曾被视为OpenAI成熟监管者的前财长萨默斯，因被揭露曾向性犯罪者爱泼斯坦寻求「僚机」服务而跌落神坛，于昨日被迫辞去董事职务。这场丑闻不仅终结了萨默斯在硅谷与哈佛的权力版图，更在OpenAI刚刚完成商业化转型的关键时刻，撕碎了精英治理的假面并留下了巨大的权力真空。
微软修复严重性评分达 9.9 分的 ASP.NET Core 漏洞
微软发布安全公告，修补 ASP.NET Core 关键漏洞（CVE-2025-55315），CVSS 得分 9.9 分。该漏洞存在于多个版本，攻击者可绕过安全特性，或致权限提升等风险，微软建议升级修复。
88%的公司在用AI，但只有39%吃到真金白银？麦肯锡2025 AI报告来了！
麦肯锡《The State of AI in 2025》显示，88%受访企业用AI，但仅39%获财务回报。多数企业AI在试点，Agent落地少，高绩效企业享红利，AI岗位影响招聘结构。
自适应Agent基础模型：从“会推理/会用工具”到“懂得取舍的执行者”
当前大型语言模型在智能体/工具调用场景有推理型和工具型两类，存在效率与功能、深度的矛盾。A²FM框架提出多模式自适应路由，实现模式自适应切换，在多基准测试中效果与效率双升。
AI模型守法率提升11%，港科大首次用法案构建安全benchmark
香港科技大学KnowComp实验室从法律合规视角研究LLM安全，提出「安全合规」新范式。基于法律条文构建benchmark，用GRPO微调Qwen3 - 8B得推理模型，在新benchmark测试中性能提升显著。
Hinton自曝：前女友提分手，用ChatGPT列出自己「七宗罪」
近日，人工智能教父杰弗里・辛顿透露前女友用ChatGPT列他“七宗罪”后分手。他日常用ChatGPT工作研究，还重申从谷歌离职是因退休，同时警告AI会致失业、有毁灭性打击风险。
ChatGPT到底学了多少「污言秽语」？清华团队首提大语言模型中文语料污染治理技术
清华等团队研究发现，先进ChatGPT系列模型中文词表污染达46.6%，含色情、赌博等词元。团队定义分类中文污染词，构建识别模型，还能由词表污染估计数据污染，为语料治理提供方案。