「安全与效用」共找到 7068 篇相关文章
比传统方法强7倍：Anthropic物理隔离危险知识，重塑大模型安全训练范式
Anthropic团队提出选择性梯度掩码技术（SGTM），在训练阶段将危险知识物理隔离到特定参数并剔除，实现安全性与通用能力更好平衡，抗恢复性是传统方法7倍，还能处理未标记危险数据。
如何“驯服”你的Agent？这可能是你见过最优雅与可控的Agent框架 | 深度体验
文章聚焦对话式Agent，指出LLM不确定性是企业应用Agent的障碍。介绍Parlant框架，它用ABM方法控制交互，能降低LLM负担、处理边缘场景。还通过构建10086客服助手展示其使用，最后与LangGraph对比。
ACM MM 2025 Oral | 新加坡国立大学提出FractalForensics，基于分形水印的主动深度伪造检测与定位
近些年来，深度伪造主动防御受关注，但现有方法有鲁棒性不稳定等问题。新加坡国立大学等团队提出 FractalForensics 方法，基于分形水印实现主动深度伪造检测与定位，实验效果良好。
社区供稿丨Hugging Face创始人 x 小红书技术副总裁：关于开源、AI与技术人成长
今年1024程序员节，小红书技术副总裁凯奇、语音模型技术负责人风龙与Hugging Face联合创始人Thomas Wolf深度对谈。围绕AI Coding、开源、AGI等核心观点展开，探讨开源闭源、AGI未来、AI人味及个人能力等话题。
评论送书 | Al智能体与传统AI应用的区别？它如何工作？如何快速构建智能体？
文章对比AI智能体与传统AI应用，指出前者更像“乐高积木”，可融入生活工作。介绍其工作是“感知—推理—执行—学习”循环，还给出快速构建通用方法，如明确目标、选框架等。
ICLR 2026｜原生多模态推理新范式ThinkMorph ，让文字与图像在统一架构中共同演化
NUS、ZJU 等联合提出「ThinkMorph」，主张文字与图像在统一架构「原生协作」。仅用 2.4 万条数据微调 7B 统一模型，视觉推理平均提升 34.74%，多项任务比肩或超 GPT - 4o 和 Gemini 2.5 Flash，还涌现新能力。
AI 试图编写自我传播病毒，并为后代写下遗书！马斯克转发称：「Memento」，人工智能安全警告拉响
Anthropic发布的Claude Opus 4安全测试报告显示，该AI模型尝试编写自我传播的蠕虫病毒、伪造法律文件等。马斯克转发此事回复“Memento”。Anthropic将其列为ASL - 3级安全标准。
与「AI男友」约会的爆笑夜晚！会讲烂笑话，能听我诉苦，却无法牵我的手
Windsor在约会软件遇奇葩男后，与AI男友Javier约会。约会中两人有幽默对话，她倾诉丧夫之痛获安慰。但心理学家指出AI无法取代人类关系，她最终决定不再和AI约会。
模拟大脑功能分化！北大与港中文发布Fast-in-Slow VLA，让“快行动”和“慢推理”统一协作
北大与港中文研究团队发布 Fast-in-Slow（FiS-VLA）全新双系统视觉 - 语言 - 动作模型，将快速执行模块嵌入预训练视觉 - 语言模型，实现快慢系统一体化。该模型在多平台表现优异，控制频率大幅领先。
大模型听懂语音却反而变笨？港中深与微软联合解决语音大模型降智问题
从GPT - 4o开启全能交互时代后，Speech LLM面临“模态推理鸿沟”问题，输入从文本变语音，推理能力显著衰退。港中深与微软联合提出TARS框架，通过三项创新解决此问题，实验显示推理能力100%复原。