「冲突量化」共找到 280 篇相关文章
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
Transformer传奇作者加入OpenAI！谷歌27亿美元也没留住
Transformer核心作者Noam Shazeer宣布加入OpenAI，他曾因谷歌拒绝发布聊天机器人出走创业，2024年谷歌花27亿美元请回，如今再次离开。他贡献巨大，引发AI界争抢。
从「知题」到「知人」：UserRL让智能体学会「以人为本」
大语言模型距成真正用户伙伴缺‘知人’能力。来自UIUC与Salesforce团队提出UserBench和UserRL方案。前者将‘用户特性’制度化，构建评测环境；后者搭建统一强化学习框架，探索奖励建模，二者让‘以用户为中心’落地。
Discrete Tokenization：多模态大模型的关键基石，首个系统化综述发布
近年来，人们关注将LLM能力扩展至非文本模态，Discrete Tokenization成关键方案。但现有研究缺系统总结，香港科技大学等团队发布首个相关系统化综述，梳理技术脉络、方法及挑战，给出未来研究方向。
五角大楼计划将绝密数据喂给AI，训练军事特供版模型
《麻省理工学院技术评论》称，五角大楼正讨论为生成式人工智能公司建安全环境，用机密数据训练军事特定版本模型。美国军方重构战略，推动先锋项目，还筹备用绝密数据训练模型，引发安全担忧。
偷数据的AI公司被抓到了
Reddit发现AI公司利用Wayback Machine开放性，绕过限制扒取大量历史数据用于模型训练。此前Reddit已对AI公司数据抓取设限，还起诉过违规公司。Reddit抵制该行为，宣布限制Wayback Machine索引其内容。
arXiv开始拒收综述论文了？「论文DDoS」这事，这篇NeurIPS论文早有讨论
近日，arXiv宣布拒收未通过同行评审的综述和立场性文章，危机源于生成式AI与大模型。上海交大团队中稿NeurIPS的论文，精准预见此危机，提出“综述论文DDoS攻击”概念，还给出应对策略。
牛B， 我去，新手小白也能使用InfiniteTalk搭建属于自己的数字人啦 ，真的太简单啦！！！
文章聚焦InfiniteTalk，剖析数字人视频制作痛点，阐述其以“稀疏帧视频配音”破题，具备无限长度、全身与表情同步等优势，介绍核心功能、使用方法，对比同类项目，凸显其多方面优越性。
华为海思老兵上海创业，拿到亿元投资！
过去两年汽车行业竞争激烈，智能驾驶芯片成关键领域。近日，上海为旌科技完成A2轮融资首次交割，获君信资本1亿元。其创始人郑军是海思老兵，带领公司研发多款芯片，还提出诸多行业见解。
基于大模型（LLM）的自选股智能分析系统，让AI帮你盯盘，每天自动推送分析报告
daily_stock_analysis是基于LLM的自选股智能分析系统，免费零成本运行，获6.3万Star。它多市场覆盖、聚合多源数据，自动生成决策报告并推送。有零成本运行等五大亮点，还给出上手步骤、适合人群。