「人类意图对齐」共找到 1449 篇相关文章
字节Seed提出M3-Agent：像我们一样"记住"与"思考"的长视频理解新范式
字节Seed提出M3 - Agent，这是首个融合实时视听输入、类人记忆构建与自主推理的多模态智能体。它模仿人类记忆机制，解决长视频理解痛点，已被CVPR 2025收录并开源代码，为通用人工智能奠定基础。
真6，上线几天，轻松斩获10k，首款开源通用AI智能体Suna：一句话自动处理Excel/爬数据/写报告，程序员私人助理诞生！
Suna是Kortix推出的全球首个开源通用型AI Agent，核心突破是“执行力”，能像人类员工操作数字工具。它开源透明，是全能数字员工，已落地多场景，有五大核心功能。还给出部署方法和同类对比。
统计可控数据合成！新框架突破大模型数据生成局限，麦吉尔大学团队推出LLMSynthor
麦吉尔大学团队提出新方法LLMSynthor，让大模型成结构感知的数据模拟器，为隐私敏感、数据稀缺场景生成不泄密的高质量替代数据。它通过结构推理、统计对齐等步骤实现，有理论保障，多场景实测效果佳。
Duolingo 和 Shopify 纷纷宣布 AI 优先，围绕 AI 工作的时代已来
Duolingo和Shopify宣布AI优先政策，将用AI取代部分人类工作。Duolingo推出AI创建的新语言课程，转型为“AI优先”模式；Shopify要求全员高效用AI。此外，Genspark Super Agent ARR增速快，未来或属“小团队+AI”时代。
OpenAI 黑科技 Deep Research 诞生记：一个工程师的“不务正业”如何改变 AI 战争格局
OpenAI宣布美国用户可免费使用集成于ChatGPT的AI研究助手Deep Research。OpenAI负责人分享其背后故事，探讨起源、人类专家数据作用等，还提及RFT时机、代理安全性等，并展望其能访问私有数据，适用于具体任务。
机器人看29s视频学会一个新技能，自变量开源HOST框架
自变量机器人开源的HOST框架，让机器人看29s人类示范视频就能学会新技能，原技能不受影响。它通过自定位级联预测，解决了人和机器人动作节奏、身体结构不同的问题，效率远超主流微调方案，推动机器人进家庭。
Claude Opus 5 发布：Fable 5 一半的价格，更强的编码能力
Anthropic 发布 Claude Opus 5，定价与 Opus 4.8 相同，价格是 Fable 5 的一半。它在编码、知识工作和推理上表现出色，虽有不足，如速度慢、幻觉率较高，但提供多种 effort 等级，成本低，安全对齐性好。
会挖0-day漏洞！凶残版Claude官宣却不让用，微软苹果齐下场“看守”，Anthropic到底在图什么？
Anthropic官宣Mythos Preview，却未将其放给普通人用，而是塞进防御联盟Glasswing。Mythos在漏洞发现和利用上能力超多数人类，Anthropic怕其引发风险，先将它组织进防守体系，还试图占据‘负责任的frontier lab’位置。
ChatGPT聊天记录成法庭铁证，韩国汽车旅馆双命案反转
韩国一女子用含苯二氮䓬类药物的饮料毒杀两名男子，警方从其手机挖出与ChatGPT的对话记录，成判定其杀人意图的铁证。此案件暴露AI安全漏洞，也引发对AI失控风险及数据隐私的担忧。
李诞的虾，把搞 AI 的都看沉默了
飞书「玩虾大会」直播中，李诞现场教呼兰在飞书上养虾。诞虾能理解意图建边界、实事求是判断合作、犀利评价呼兰虾，还能依场景调整表达。李诞养虾好因重表达和思考，AI可照见灵魂。