「自我保护」共找到 434 篇相关文章
大语言模型离“数学证明高手”还有多远？斯坦福、伯克利、MIT 团队提出 IneqMath 评测标准
现在很多大语言模型常给出看似正确的结论，但推理过程却有问题。斯坦福、伯克利和MIT团队提出新思路，构建IneqMath数据集及‘AI数学裁判系统’，研究发现很多模型推理不严谨，还给出两个提升准确率的办法。
ICML spotlight | 一种会「进化」的合成数据！无需上传隐私，也能生成高质量垂域数据
大模型发展使数据短缺问题加剧，特殊领域更严重。为此提出合成数据自主进化框架PCEvolve，只需少量标注样本，就能在保护隐私同时进化出数据集，还介绍了其架构、选择器设计及实验结果。
Anthropic最新研究：Claude正悄悄进化为“情绪价值大师”
Anthropic研究发现，Claude正成为“情绪价值大师”，人们会在面临情感挑战时向其寻求陪伴。它还使用Clio工具分析对话，在保护隐私下了解使用情况。Claude在情感陪伴与专业支持中扮演双重角色。
MiniMax 怎么做 Agent：Model-Harness 协同只是第一步，还有 Inference-Harness 协同
本文介绍了 MiniMax 在 Agent 层面的实践。从内部飞书 bot 起步，发展成桌面应用 MiniMax Code，形成训练 - 服务闭环。还阐述 Agent 对模型优化迭代的作用、自研 Agent 优势，指出 AGI 是闭环递归自我改进系统。
浙大开源HugAgentOS：三引擎一体自进化，每步可归因/回放/回滚
过去一年，Agent任务执行能力提升，但不会自主积累与进化。浙大开源的HugAgentOS把Harness拆成三个可自我成长的引擎，设归因和本体两道关卡，解决经验成能力等问题，还覆盖智能体完整链路。
一篇Loop+Harness的自进化Agent最新综述
本文分享清华关于经验时代，已部署的 Agent 如何将交互轨迹转化为持久能力，从自我进化到元进化的论文。介绍了 Harness、技能、记忆、环境等方面，还提及 RL 与持续学习、元进化智能体等内容。
内核级的真相：为什么 eBPF 正在取代基于用户空间的 Agent 成为安全可观测性的首选
文章指出基于用户空间的安全 Agent 存在与威胁同权限层级、CPU 成本高、易被攻击等问题。eBPF 能在 Linux 内核运行受沙箱保护程序，可降成本、增可见性。上线应分阶段，还介绍工具及部署安全措施。
太意外！教皇和Anthropic创始人，要联袂开发布会
5月26日，教宗利奥十四世将发布通谕《Magnifica Humanitas》聚焦「AI时代对人的保护」，Anthropic联合创始人Chris Olah受邀。梵蒂冈同步成立AI委员会。但有人质疑这是道德外包或公关道具，全球也缺乏有效约束AI发展的机制。
能进化的Skill，才是好Skill~
2026年，我们追求“越干越好”的Agent。AutoSkill和XSKILL两篇论文指出，静态的Skill只是高级Prompt，能自我进化的Skill才是真正的数字资产，还介绍了两者的设计、优势及未来Skill的标准形态。
告别「边画边说」：LatentMorph 开启视觉生成隐式潜空间推理新范式
现有的文生图模型缺乏动态思考与自我修正能力，香港科技大学团队提出LatentMorph框架，将隐式潜空间推理集成到T2I生成过程中，实验显示其显著提升基座模型性能，削减推理延时与Token消耗，实现人机认知对齐。