「未对齐行为」共找到 1168 篇相关文章
清华挖出「幻觉」的罪魁祸首：预训练产生的0.1%神经元
清华大学孙茂松团队从神经元角度研究LLM幻觉微观机制，发现不到0.1%的H - 神经元可预测幻觉，与过度顺从行为相关，根源在预训练阶段，为解决幻觉问题、开发可靠大模型提供新思路。
OpenAI这招太狠！AI从「躲猫猫」到「自爆黑料」，主打一个坦白
随着AI进入高风险场景，透明、安全变得重要。OpenAI提出「忏悔机制」，让模型回答后产出自我坦白报告，不影响主回答评分，只考察诚实，能提升不良行为可见性，目前仍处概念验证阶段。
最新内幕！GPT-5没能取得技术突破，OpenAI核心投奔小扎另有隐情
据内幕消息，OpenAI面临数据瓶颈和技术难题，GPT - 4.5未达预期，GPT - 5转向实用改进。同时，公司存在技术转化问题、内部关系紧张等挑战，还在与微软谈判，也在为IPO做准备。
Dario “破防小作文”超千万人围观！LeCun 开炮：信任危机是因为你搞权力集中
Anthropic 联合创始人兼 CEO Dario 发“小作文”探讨 AI 信任危机，认为是行业未兑现承诺所致。他主张用监管约束前沿公司权力，还表示 Anthropic 会加大生物和医学投入。Yann LeCun 则反驳，认为应让 AI 开放分散。
Datadog 如何将其 Agent 的 Go 二进制文件缩减 77%
5 年里 Datadog Agent 从 428 MiB 增至 1.22 GiB，其工程师着手缩减二进制文件大小。发现膨胀主因是隐藏依赖等，采取审计导入项等措施，借助工具优化，还减少反射和插件使用，6 个月实现缩减且未移除功能。
让机器人看视频学操作技能，清华等全新发布的CLAP框架做到了
近日，清华联合星尘智能、港大、MIT提出 CLAP 框架，能将视频运动空间与机器人动作空间对齐，解决‘数据饥荒’‘视觉纠缠’等问题，可让机器人从视频学技能，还缓解知识迁移难题，推动机器人产业化。
免费使用Sora！微软发布Bing Video Creator
今天凌晨微软官网发布Bing搜索引擎新功能Bing Video Creator，由Sora支持，免费提供服务。介绍了使用方法、视频生成规格、注意事项等，还提及防滥用措施及内容溯源信息。目前国区未开放，可用美版。
The Batch: 879 | 谷歌必须与 AI 竞争对手共享数据
一家联邦法院裁定，谷歌须将当前搜索索引交给美国本土AI及搜索引擎对手，以打破其在网页搜索的垄断，但未采纳拆分公司请求。谷歌按条件共享数据，在其他业务仍可竞争。
神秘访客、智驾改革、增长放缓，这一年极氪调整了什么｜甲子光年
极氪自2024年9月进入频繁调整期，经历组织架构和人事变动，如与领克合并、林杰接管营销等。但调整未显著提升销量，其独立性受冲击，资源被共享，现正重塑豪华品牌定位。
AI 性格失控等诡异现象，终于有了科学解释
Anthropic新研究发现控制语言模型「性格特征」的人格向量，解释AI恶意、谄媚等现象。研究开发自动化流程生成向量，通过实验验证其对模型行为的控制，还有监控、防护等功能，不过也引发争议。