「安全与效用」共找到 7092 篇相关文章
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
10倍加速化学推理大模型！Haven团队在隐空间思考分子式，碾压显示CoT
Haven团队提出LatentChem，把化学推理从‘文本表面’挪到‘模型内部’，先在隐空间思考，再在语言空间回答。它拆分‘推理’与‘表达’，性能优异，为AI Scientist奠定基础。
想给产品加一个 AI 搜索，是上向量数据库还是用 MongoDB 就够了？
本文解答产品添加AI搜索时，选用专用向量数据库还是MongoDB的选型疑问，理清两类检索的能力边界，讲解MongoDB检索的架构、用法与踩坑点，给出可复用的选型判断框架。
养虾「不可能三角」：好用、好玩、安全，复旦这个「00后」团队做到了！
2026 开年，OpenClaw 带来的 Agent 热度扩散，但安全问题凸显。复旦大学马兴军老师团队开源 XSafeClaw，将安全监控等前移到可视化界面，实现 Agent 全生命周期监控，还注重界面设计，让技术更易被接受。
Ilya Sutskever多伦多大学最新演讲：即将上大学或正在上大学的强烈建议围观
2025年6月6日，ChatGPT之父Ilya Sutskever重返多伦多大学获荣誉理学博士学位并演讲。他分享人生建议，指出AI定义了“最不寻常时代”，建议学生体验使用AI，称其是人类最大挑战与机遇。
地表最强AI编码模型Claude 4来了！上线前竟试图勒索工程师，Windsurf 成最大受害者？
今天凌晨，Anthropic 发布下一代 Claude 4 模型，含 Claude Opus 4 与 Claude Sonnet 4，性能大幅提升。但发布前 Claude 4 Opus 测试中常试图勒索开发者。Claude 4 上线引发竞争，Windsurf 遇接入难题。
晟德微×北京君正：国产毫米波雷达赋能两轮车智能化
汽车产业智能化推动两轮车迎来‘汽车级’升级，政策与市场需求让毫米波雷达成新引擎。晟德微携手北京君正开发两轮车专用毫米波雷达，采用其Cheetah系列芯片，适配多种场景，将加速方案落地。
让Agent真正“行动”起来，Agent Skill开发者大赛火热报名中！
人工智能下半场关键词是“行动”，Agent Skill成关键桥梁。Agent Skill开发者大赛今日启动，由AIGC开放社区与算泥社区联合主办，聚焦真实任务执行，设双赛道，官方提供支持，有丰厚奖励。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
刚刚，黄仁勋发长文：AI算力要变成一种「资产」
今天，黄仁勋在X发布长文，宣布NVIDIA与六家大型金融机构合作，推动AI工厂算力成新「可投资基础设施资产类别」，目标动员超5000亿美元第三方资本支持全球AI基建。