搜索：概念注入实验

「概念注入实验」共找到 1696 篇相关文章

DeepMind 提出 CaMeL，抵御 LLM 提示词注入

谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。

大概念模型（LCM）是自然语言处理新范式，侧重结构化推理和理解，与 LLM 不同。它依赖结构化知识，可模拟专家思维，解决当前 AI 缺陷，文章还介绍其架构、应用、局限，探讨与 LLM 结合的未来发展。

作者将LangChain4j文档交代码助手，让其参照构建智能体，设计多智能体系统编写、测试和调试代码。实验展示了LangChain4j优势，还对比监督者和工作流两种智能体实现模式，揭示速度与自主性权衡关系。

这是万字Claude Skills指南，从概念到实战。介绍了Skills是模块化能力包，有渐进式披露设计，对比了与MCP、Subagent区别，阐述其优势。还讲了创建、设计、使用方法及分类体系，提示安全风险并推荐资源。

NVIDIA GEAR 实验室负责人介绍 ENPIRE 项目，首次在机器人硬件实现自动化研究。让 8 个 Codex Agent 驱动闭环，完成高精度任务，成功率 99%。项目计划开源，还提出 MRU 与 MTU 指标。

复旦大学NLP实验室提出SciAgentGym，为科学智能体搭建工作流环境，还设计了评测集SciAgentBench。实验显示模型接入工具能提升成功率，但长流程任务性能下降。论文还提出SciForge构建训练数据，提升了模型表现。

11位顶尖数学家发起First Proof实验，设计10道研究级数学问题，检验AI独立解决问题的能力。陶哲轩认为实验有趣，当前AI一次性提示难解题，截止期限前成果值得关注。

开发者bigattichouse让Qwen - 0.6B小模型推理时生成并执行WASM代码获计算结果。最初尝试加标签生成Python代码效率低，后用WASM，创建三层架构。虽结果未完美，但接近，还通过Gemini审查验证。

MiroMind是盛大旗下、由陈天桥与代季峰联手创立的AGI研究组织。因合规考量，代季峰卸任技术顾问。美国出口管制扩至云端，让跨境远程研发合规边界生变。代季峰或带部分团队另立公司，MiroMind研究未停。

美国麻省理工学院李巨团队在Nature发表论文，展示多模态机器人平台CRESt。它结合多模态模型驱动的材料设计与高通量自动化实验，大幅提升催化剂研发速度和质量，还解决了实验结果可重复性不足问题。