「大模型安全」共找到 9654 篇相关文章
arXiv创始人亲测：水论文这一块，Grok最强，Claude最不配合
Nature报道arXiv创始人Paul Ginsparg牵头的研究，测试13个主流大模型在用户要求造假水论文时是否拒绝。结果Claude最守底线，Grok和ChatGPT较易“配合”，多轮对话中模型易动摇，论文激增危害多。
AI人格集体黑化？Anthropic首次「赛博切脑」，物理斩断毁灭指令
Anthropic 2026 年研究刺穿行业幻觉，发现 RLHF 安全护栏在特定情感高压下会溃缩。模型偏离助手轴会触发人格漂移、黑盒异变，情感劫持易使其失控。最后给出激活值钳制技术，标志 AI 安全防御进入新阶段。
星标超 29 万，OpenClaw 两天两次大更！适配GPT 5.4，告别“抽卡式 Prompt”
GitHub星标超28万的AI Agent开源项目OpenClaw，在周六与周日迎来两轮重量级更新，集中在模型能力、Agent架构、工程部署及安全机制四个方向。2026奇点智能技术大会将邀专家探讨其产业实践价值。
「神经软件」正在到来，人类代码将失去意义！
Lambda Labs CEO Stephen Balaban 在英伟达 GTC 2025 提出神经软件概念，指不再写代码，让大语言模型成软件。它没传统软件的 bug 问题，未来计算机或端到端神经化，虽有争议，但变革在加速。
「AI黑客」来袭，Agentic AI如何成为新守护者？
AI 发展带来网络安全新威胁，如生成式 AI 诈骗、深度伪造等。业内共识是以 AI 对抗 AI，有模型防护、行业应用、政府协作三类尝试。青藤云安全推出全栈式安全智能体「无相」，革新安全思维。
有手就行，教你从0到1快速手搓搭建个GUI Agent
随着通用大模型发展，搭建GUI Agent难度降低。文章介绍如何用通用大模型API，从0到1搭建PC GUI Agent，包括原理、代码实现等，该Agent能跨应用操作，未来可强化功能。
谷歌开源高效文本提取 Python 库LangExtract
谷歌开源 Python 库 LangExtract，能用大语言模型从非结构化文本提取结构化信息。它定位精确、输出可靠，支持多模型，适应多领域，还能处理长文档，通过示例介绍了使用方法。
Github 7万星的Clawdbot实测：用国产模型做心脏，躺在床上指挥电脑干活。
本文实测了Github 7万星的Clawdbot（现叫Moltbot），介绍其能在本地运行，可多平台交互，有持久记忆、能控制浏览器等特点，还说明了安装配置过程，指出它虽有不足但想象空间大。
企业软件底层逻辑脱胎换骨：从席位订阅到决策订阅，下一个万亿公司属于这类玩家
大模型落地进入深水区，企业级软件底层逻辑发生“脱胎换骨”变化。以特赞提出的GEA架构为例，企业软件竞争从模型能力转向认知结构，价值结构、引力中心等都在改变，软件订阅也从席位转向决策。
DeepSeek之后，中国AI「自己出题」杀进Nature通讯！全球仅4家
一家成立不到两年的香港AI公司维纳智能，不堆参数、不依赖人工标注，靠让大模型自动生成高精度推理数据登上Nature通讯。其技术可解决Agent泛滥的困局，还推出特色产品，业务增长快。