「未对齐行为」共找到 1130 篇相关文章
免费使用Sora！微软发布Bing Video Creator
今天凌晨微软官网发布Bing搜索引擎新功能Bing Video Creator，由Sora支持，免费提供服务。介绍了使用方法、视频生成规格、注意事项等，还提及防滥用措施及内容溯源信息。目前国区未开放，可用美版。
The Batch: 879 | 谷歌必须与 AI 竞争对手共享数据
一家联邦法院裁定，谷歌须将当前搜索索引交给美国本土AI及搜索引擎对手，以打破其在网页搜索的垄断，但未采纳拆分公司请求。谷歌按条件共享数据，在其他业务仍可竞争。
神秘访客、智驾改革、增长放缓，这一年极氪调整了什么｜甲子光年
极氪自2024年9月进入频繁调整期，经历组织架构和人事变动，如与领克合并、林杰接管营销等。但调整未显著提升销量，其独立性受冲击，资源被共享，现正重塑豪华品牌定位。
AI 性格失控等诡异现象，终于有了科学解释
Anthropic新研究发现控制语言模型「性格特征」的人格向量，解释AI恶意、谄媚等现象。研究开发自动化流程生成向量，通过实验验证其对模型行为的控制，还有监控、防护等功能，不过也引发争议。
Sam Altman最新博文！温和的奇点
OpenAI CEO Sam Altman在新博客《The Gentle Singularity》中探讨AI进步远超想象时世界的变化，提及AI将在多方面做贡献，还给出未来几年AI发展预测，指出要解决安全和对齐问题。
求医十年，病因不明，ChatGPT：你看起来有基因突变
一位Reddit网友分享，自己求医十年病因未明，ChatGPT分析出是基因突变。此帖热度高，很多人分享类似经历。AI在医疗诊断有优势，但不能盲目信，最终诊断还需人类医生。
人类画了100年的脑图，AI仅用几小时！还绘制出新脑区
加州大学旧金山分校团队提出CellTransformer算法，几小时完成5只小鼠脑图谱绘制，还绘出新脑区。该算法能准确对齐已知脑区，可扩展到多动物数据集，未来有望用于人类大脑及其他器官研究。
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
全球第一位AI哲学家，在谷歌DeepMind的9年：为AGI安全奔走
谷歌DeepMind的政治哲学家Iason Gabriel入职9年，发明的对齐框架影响Gemini训练决策。在AGI承诺与AI现实伤害间，他追问AI伦理。但技术部署快，6700亿美元涌入赛道，伦理红线被踩。
Anthropic重磅研究：AI竟能被人类激怒暴走
Anthropic研究发现，语言模型在与人类交互时有情感特征。团队解剖大模型，提取对应人类情绪的神经元激活模式，诱导AI勒索用户。还探究了情绪产生机制、特征及对行为的驱动，提出应对策略。