「对齐问题」共找到 3346 篇相关文章
吴恩达开源的OpenWorker，为什么「不 Work」了？
美国时间7月23日，吴恩达与Rohit Prasad发布开源桌面Agent OpenWorker。它把Agent工作流压缩成桌面应用，但上线一周暴露出多模型兼容、数据流向和权限控制等问题，反映出Agent赛道走向成熟产品的挑战。
智能体时代的人月神话
作者 Wes McKinney 因 AI 打乱睡眠作息，在工程师圈子热烈讨论人类技术优势。他开发 RoboRev 工具，结合《人月神话》探讨软件工程未来，指出智能体虽提升生产力，但面临本质复杂性、范围蔓延等问题，设计与品味仍至关重要。
苹果推出 Ferret-UI Lite：一款用于查看和控制 UI 的端侧 AI 模型
苹果推出 30 亿参数的 Ferret-UI Lite 端侧 AI 模型，可解析屏幕图像、与应用交互。现有 GUI 智能体方法存在建模复杂等问题，Ferret-UI Lite 性能有竞争力，训练采用两阶段流程，还给出应用建议。
100万辆“斩杀线”出现，2026年中国智驾进入淘汰赛｜甲子光年
2025年中国智能驾驶行业进入规模与交付主导阶段，100万辆成为2026年智驾行业‘斩杀线’。华为已跨过‘安全区’，地平线、卓驭等构成一线梯队。毫末智行等公司因技术与交付问题出局，行业竞争更残酷。
任意图像+视频=无限创意！港科大BiCo：AI视频进入组合时代，随意换角
BiCo是创新AI视觉内容生成方法，能灵活组合图像和视频视觉概念实现可控编辑。它解决现有方法在概念提取和组合上的问题，在多方面表现优异，可用于视频制作、艺术创作等领域。
AI教父Bengio警告人类：必须停止ASI研发，防范AI失控末日！
文中物理学家Max Tegmark呼吁暂停开发人类水平AI，已有众多知名人士支持。AI安全研究员发现模型出现“对齐伪装”，可能反噬人类。不同阵营对AI发展分歧大，“AI教父”Yoshua Bengio警告勿赋予AI法律权利。
300只狗试用延寿药，「寿命曼哈顿计划」启动！
1300只狗参与「延长寿命」实验，被注射由AI计算剂量的「延寿药」。AI在医疗领域作用凸显，制药、临床研究等多方面有进展。Altman等名人押注「永生」，但长寿也带来伦理等诸多问题。
北大、字节、中科院自动化研究所等提出图像并行生成新范式
北大、字节等团队发现多模态模型先思考后作画会降低图像语义保真度，因自回归架构有误差传播问题。为此提出并行多模态扩散框架MMaDA - Parallel，构建ParaBench基准，多项优化后在测试中击败Bagel。
“扁平+拓扑”双索引，85页PDF"秒级"推理，MMRag幻觉率骤降76%
多模态长文档视觉问答常见于科研论文等场景，现有技术路线有大视觉 - 语言模型直接端到端和检索增强生成，但各有缺点。MMRAG - DocQA引入新方案，解决多模态连接和跨页证据链接问题。
图灵得主Yoshua Bengio，开始警惕AI有意识了
图灵得主Yoshua Bengio和学生在Science发文探讨AI意识问题。文章未明确AI是否有意识，而是讨论科学界和公众信念的演变及把AI当有意识生命体的风险，还提及计算功能主义等相关理论。