「安全体系」共找到 1464 篇相关文章
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
中科院信工所发布首篇LLM智能体幻觉综述！梳理5类幻觉、18大诱因与10种缓解方案，300+论文资源开源
中科院信工所等机构团队发布首篇聚焦LLM智能体幻觉的综述，厘清其与传统语言幻觉区别，提出5类幻觉分类体系和18大触发原因，给出10种缓解策略，还开源300+论文库并指明未来研究方向。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
GPT-5编程专用版发布！独立连续编程7小时，简单任务提速10倍，VS Code就能用
OpenAI推出GPT-5-Codex特化版模型，支持独立连续编程7小时，有IDE插件版。新模型有“真·动态思考”能力，简单任务提速10倍，复杂任务推理更久。还重构了Codex产品体系，升级IDE扩展等。
智能体新范式Chain-of-Agents，多项任务新SOTA
论文提出Chain-of-Agents (CoA) 范式，结合多智能体系统与工具集成推理优势。通过多智能体蒸馏和智能体强化学习训练智能体基础模型（AFM），实验显示其在Web和Code任务上达新SOTA，效率、泛化性佳。
构建能源领域的AI专家：一个多智能体框架的实践与思考
本文介绍阿里团队在能源领域构建多智能体框架的实践。因单智能体处理复杂任务有“注意力发散”问题，团队研发综合能源智能体平台，阐述框架搭建、各组件功能及设计考量，还分享思考与可优化点。
多智能体在「燃烧」Token！Anthropic公开发现的一切
Anthropic发布多智能体研究系统构建解释，解决多智能体研究困惑。多智能体系统优势明显，在特定任务中表现出色，但token消耗大。其架构独特，还介绍了提示词工程、评估方法、面临的工程挑战等内容。
无需标注和奖励模型！仅靠自信度RL，16个样本训练20步，效果飙升21%！
论文提出RLSC，让大语言模型用自身答案置信度作奖励信号，摆脱人类标注依赖。它以模型自信度内部信号替代多数投票外部信号，小成本提升模型数学能力，还让模型学会快推理，不过也存在安全隐忧。
打破AI能力的惯性评估方式，红杉中国推出全新双轨基准测试xbench｜甲子光年
红杉中国推出全新AI基准测试工具xbench，采用双轨评估体系，构建多维度测评数据集，追踪模型理论能力上限与Agent实际落地价值。还采用长青评估机制，首期发布两个核心评估集并给出综合排名，公开后邀各界完善。
全公司禁用Claude Code，CEO放狠话逼宫A社！
Shopify CEO Tobi Lütke考虑禁止公司使用Claude Code，除非其支持读取AGENTS.md和.agents/skills。Claude Code团队称正在改进，但坚持自有体系。AGENTS.md获众多工具支持，A社是相关基金会创始方，Claude Code却未原生支持。