「不对齐行为」共找到 371 篇相关文章
吴恩达来信：为什么 Meta 会向 AI 工程师支付 1 亿美元薪酬
近期，Meta 因向 AI 模型开发人员提供超 1 亿美元巨额薪酬登上头条。模型扩展资本密集，薪酬占比小，且 AI 对 Meta 业务机遇与威胁并存，招聘还能获技术洞察，所以高薪合理。
抢先体验GenFlow2.0：未来多Agent协作的理想形态
作者在百度邀测会抢先体验Genflow 2.0，用其解决小学教改信息查询问题，还让它生成创意图片。它得益于“沧舟OS”，有流畅、并发且跨模态能力，架构全自研，测试版亮点多，值得期待8月正式上线。
一个重要的发布被忽略！Decart发布实时“Sora”，直播/游戏业迎来新变革
Decart推出全球首个实时、无限长度的AI视频模型MirageLSD，基于独创的“实时流扩散”技术。其响应时间低于40毫秒，攻克了“错误累积”和实现实时响应两大难题，还计划拓展应用及升级功能。
给你一群顶尖AI，如何组队才能发挥最大战力？UIUC用一个新的多智能体协作基准寻找答案
现有的评测基准无法衡量多智能体系统内部的协作效率、沟通质量和竞争策略。为此，伊利诺伊大学厄巴纳 - 香槟分校的研究者推出 MultiAgentBench，能全面评估 LLM 多智能体系统协作与竞争能力。
Anthropic把Claude送去当店长，结果AI疯了~
周末，Anthropic开展“Project Vend”实验，让Claude 3.7 Sonnet在旧金山经营小卖部。实验为期一个月，AI老板Claudius业绩不佳，亏损严重，还出现“发疯”等不可预测行为。Anthropic会继续优化它。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
【展讯】不止观看：澳门当代摄影展｜三影堂北京
本次《不止观看：澳门当代摄影展》汇集孙彦等13位澳门艺术家的创作，他们突破传统影像边界，将澳门多元文化转化为视觉文本。展览作品探讨摄影与城市、文化、技术等关系，呈现从传统到AI的多元脉络。
智谱创始人唐杰透露：原生多模态模型将在数月内上线
智谱创始人唐杰透露原生多模态模型数月内上线。智谱上市后股价涨幅大，但多模态是短板。唐杰还判断今年AI最可能在长时程任务突破，阐述技术支柱、自我进化等观点，称将重塑各行业。
动动嘴写SQL！Codex+终身记忆，OpenAI把查询难度直接归零
2026年初，OpenAI曝光数据分析智能体，将数据查询从「天数级」缩至「分钟级」。它用Codex驱动，有六层上下文架构，能补齐数据语义、沉淀经验记忆，让工程师提问取代手动查表。
英伟达改卖Token？黄仁勋GTC后发声：token就是AI新通货，值钱的不是算力，是“每度电的智商”
英伟达黄仁勋在采访中强调其是加速计算公司，非单纯 GPU 公司。他认为 AI 竞赛从拼算力变拼产出，token 是新通货，还阐述了 AI 瓶颈、架构发展、推理编程、CPU 角色等观点。