「不对齐行为」共找到 372 篇相关文章
当国产模型追上闭源旗舰，企业 AI 编程的真正障碍才浮出水面
过去企业AI Coding讨论多集中在模型能力等方面，DeepSeek V4出现缓解了模型问题，但更深层的代码库业务隐知识等问题浮现。合规限制使企业工具建设受阻，V4打破了模型供应瓶颈，可组织知识管理仍成难题。
重磅并购！车规MCU赛道迎洗牌
4月28日，矽力杰发起的并购基金完成对云途半导体的控股收购。矽力杰专注模拟芯片，云途基于Arm架构。二者技术互补，此次收购补齐矽力杰短板，正值国产替代关键期，将推动车规芯片自主可控。
银河通用LDA定义全域数据利用范式，跨本体世界动作大模型开启具身GPT-2时刻
当下具身智能赛道两大流派各有短板，银河通用推出跨本体「隐式世界 - 动作基础模型」LDA - 1B，走自研WAM路线，成果已开源。它打破数据割裂难题，解锁具身智能「GPT - 2时刻」，在多方面展现优势。
Claude 吞噬整个AI编程栈？“Vibe Coding 公司的最大错觉是以为自己有护城河”
近日网友爆料 Anthropic 开发类似 Lovable 功能，要构建全栈式 Vibe 编码平台。此前 Claude Code 源码泄露，显示 Anthropic 补齐 AI 开发栈。AI 编程进入‘大收割时代’，模型厂商吞噬工具趋势显现，Lovable 等面临挑战。
你敢把「龙虾」放在手机上跑吗？手机 Agent 离落地还差一道「隐私关」
港中深联合腾讯混元研究揭示，手机 Agent 落地关键不在成功率，而在隐私边界。研究设计隐私交互协议，构建模拟 App 记录过程，将常见越界行为归类检查，评估多个模型发现诸多隐私问题。
「百万级」视频推理数据集！30+顶尖高校联合发布
AI视频生成已能「画得像」，但不会「想得对」。VBVR推出百万级视频推理数据集，首次系统评测模型对空间、物理、逻辑和抽象的推理能力，发现顶尖模型通过率仅68%，推动视频AI从「视觉模仿」迈向「智能推理」。
Zed 为什么不用自己造 Agent？OpenAI 架构师给出答案：Codex 重划 IDE × Coding Agent 的分工边界
文章围绕Coding Agent展开，介绍其构成、构建Harness的挑战，还阐述Codex作为集成系统优势、使用方式及未来发展。强调将模型与Harness共同开发，能更好理解模型行为，Codex可助力构建差异化产品。
解决Agent幻觉：HaluMem精准定位记忆系统的“说谎”环节！
近年来，LLM和Agent在记忆管理上存在挑战，现有评估方法无法定位幻觉来源。论文提出HaluMem评估基准，通过三大任务和两个数据集揭示记忆系统幻觉行为，为开发可靠记忆机制提供指导。
《AI大模型时代老板必修课》
阿里云蒋林泉与钛媒体刘湘明在云栖大会展开《AI大模型时代老板必修课》对谈，围绕企业AI落地多方面关键议题交流。探讨了CIO角色进化、AI业务价值界定、企业战略制定等内容，为决策者提供实践指南。
拒绝“熵崩塌”和“熵爆炸”！这项研究让大模型学会“精确探索”，推理成绩飙升
2024年以来，大模型在推理任务上进展显著，得益于RLVR方法，但面临“熵困境”。研究团队提出选择性熵正则化方法（SIREN），通过三重机制精准调控探索行为，实验证明其能提升模型推理成绩。