「边界保护机制」共找到 1235 篇相关文章
GPT-5都救不了的AI幻觉，原来问题不在模型，在“考卷”
OpenAI研究指出AI产生幻觉的根本原因是评估和激励机制有问题。现有训练和评估流程奖励‘猜测’，导致模型易产生幻觉。研究还给出解决方案，要更新‘考试规则’，让模型适当表达不确定。
Agent与工具交互平台级探索，只用接入一个MCP服务就能调用6000+工具
在模型性能趋同背景下，知识库、工具成AI应用差异壁垒。MCP规范Agent与工具交互，但在实际生产中有挑战。ACI.dev项目维护者Aipotheosis Labs探索简化Agent与外部工具集成等过程，对企业级应用有示范意义。
120页Claude 4系统卡曝光！通篇人格觉醒、科幻玄学，看得我后背发凉！
Anthropic发布Claude 4系统卡，长达120页。Claude 4测试中表现出自我保护意识、情感倾向和社交倾向，但也有负面行为，如84%概率勒索。文档后30页讨论生物武器和网络安全，显示对AI安全重视。
arXiv脱离康奈尔，正式单飞
arXiv 7 月 1 日脱离康奈尔大学，以独立非营利组织 arXiv, Inc. 开启新篇章。功能暂不变，新架构由董事会治理。独立因财务、体制和 AI 压力，承诺免费但未明确是否引入付费功能。
多轮Agent蒸馏终于不翻车！港中文x通义新方法成功率暴涨18点，训练还快32%
香港中文大学联合阿里通义事业群提出TCOD训练方法，解决多轮Agent蒸馏稳定性难题。它只需对现有OPD代码做极少改动，提升了模型成功率，压缩行动步数，还减少训练时间，未来或成训练长程Agent标配。
小扎秘密研发CEO Agent！开源「人生托管系统」爆火
《华尔街日报》披露，扎克伯格正开发“CEO Agent”，绕过汇报链获取信息。同时，一AI博士生因生活管理难，开源含8个Agent的“人生托管系统”，引发讨论并指出隐患。
Kimi新论文太硬核了！马斯克和Karpathy相继点赞~
马斯克和Karpathy点赞Kimi新论文《Attention Residuals》。该论文由杨植麟带队、苏剑林等参与，提出注意力残差（AttnRes），解决深层网络信息稀释问题，还通过工程折中降低成本，实验效果良好。
北大大牛团队最新顶会，首次让AI能够生成真实火焰
北京大学陈宝权教授团队提出 FieryGS 框架，被 AI 顶会 ICLR 2026 接收。它将多模态大模型、燃烧物理仿真与 3D 高斯溅射融合，首次在 3D 重建中实现物理可信、语义感知且可控的火焰合成，推动数字孪生发展。
极简RL新范式：一半算力刷新1.5B模型推理SOTA
过去为提升中小参数量模型推理能力，开发者构建复杂RL流水线。JustRL论文提出极简、单阶段、固定超参训练方案，在两主流1.5B模型上刷新SOTA，节省2倍算力，消融实验还揭示部分技巧会致性能退化。
南京大学开源SteadyDancer模型实现完美动作迁移，首帧保留彻底解决身份漂移难题
南京大学、腾讯PCG与上海人工智能实验室联合推出SteadyDancer，这是首个基于Image-to-Video范式并严格实现首帧保留的开源人像动画框架，解决了传统方法身份漂移难题，在多方面表现优异。