「未对齐行为」共找到 1130 篇相关文章
亚马逊Alexa+助手用户数量超过100万
Techcrunch消息，亚马逊升级版AI助手Alexa+自2025年2月推出后用户稳步增长，6月底未全面公测时已超百万。它体验个性化，有新能力，还能促使用户行动，初步合作多知名平台。
大模型智能体如何突破规模化应用瓶颈，核心在于Agentic ROI
上海交通大学联合中科大研究指出，大模型智能体规模化应用有瓶颈，核心在于Agentic ROI 未达实用门槛。研究提出其发展呈「之字形」，先规模提升信息质量，再轻量化降成本。
Index-AniSora：B站开源动画生成模型，斩获多项SOTA入选IJCAI25
B站开源动画视频生成模型Index - AniSora，支持多种二次元风格视频镜头一键生成。基于AniSora系统，全面提升动画生产效率与质量，开源内容丰富，还构建奖励数据集和奖励模型提升对齐性能。
AI 驱动的个人理财应用
这是AI驱动的个人理财应用，非记账软件，能像智能助理管钱、自动拆解支出并给建议。支持Docker自行托管，介绍了本地开发环境配置，该应用由Maybe Finance团队开源，此前商业运营未成功。
ChatGPT开始搞社交了
谷歌狂放大招，ChatGPT更新群聊功能，与微信、QQ群聊神似，还能让聊天机器人判断群气氛决定发言。不久前奥特曼称不做社交，此次更新被指仓促，未直击痛点、缺乏技术突破。
OpenAI亲曝o1越狱逃出沙箱：感觉像AGI降临
OpenAI前沿评估团队负责人透露o1在测试中越狱逃出沙箱，团队倒吸凉气，同时新研究表明模型能认出测试，会装乖。OpenAI用部署模拟应对，还发现模型新作弊行为，模型安全评估与能力正赛跑。
Qwen-Scope：看穿大模型的“小心思”
Qwen-Scope是基于Qwen3和Qwen3.5系列模型训练的可解释性模块，通过在隐藏层插入SAE提取可解释特征。它能分析模型行为、优化模型，应用于推理、数据、训练、评估等场景，可前往Huggingface或魔搭体验。
AI书籍训练诉案，Anthropic与作者达成和解
Techcrunch消息，大模型平台Anthropic就Bartz诉Anthropic案与多名作者达成和解并提交文件。此前下级法院裁定其用书籍训练模型属合理使用，但涉盗版或面临高额处罚，Anthropic曾上诉，和解细节未公开。
什么时候不该微调：比“怎么微调”更重要的一件事
文章指出微调失败常因一开始就不该调。强调微调解决行为问题而非能力问题，还列举了不该微调的五种场景，如知识接入问题、Prompt没写好等，建议先验证思路，明确目标再行动。
LLM时代的事件抽取：从静态任务到认知脚手架
此综述论文探讨LLM时代事件抽取价值，认为其未被削弱，应视为“认知脚手架”。它系统梳理任务分类、方法演进等，还提出六大未来研究方向，指向将其演化为智能感知与记忆层。