「AI模型安全」共找到 13885 篇相关文章
上下文工程（Context Engineering）综述：大模型的下一个前沿
文章提出“上下文工程”学科，通过整合1400余篇论文构建“基础组件 - 系统实现”框架。它将上下文定义为动态结构化信息集合，揭示LLMs理解强于生成的矛盾，为AI研究指明方向。
ChatGPT长了手脚，AI不再是副驾，直接抢过方向盘
OpenAI昨夜发布ChatGPT智能体，它整合网站交互、信息整合、对话交互三项能力，能智能选最优路径完成任务。在多项评估中表现领先，还有多重安全措施。今日向部分用户开放。
AgentAuditor: 让智能体安全评估器的精确度达到人类水平
LLM智能体进化为“行动派”，但自主权带来安全问题。现有评估基准缺乏有效精准评估器，研究者推出AgentAuditor框架及ASSEBench基准，让LLM评估器精确度达人类水平，为构建可靠智能体提供工具。
AI 会生成 PPT 之后，Runtime 决定了它能做多好
作者回顾PPT Agent发展，指出存在Agent理解操作文档及AI生成PPT表达单一的问题。提出Artifact Runtime概念，它让PPT可被持续操作，还能接管重复决策，但不能替代专业判断。
OpenAI史上最快模型降临，每秒1000Token！代码从此「炸出来」
OpenAI发布GPT-5.3-Codex-Spark，它是专为实时编程设计的超高速模型，生成速度超每秒1000个token，联手Cerebras硬件，重写底座提升性能，在多项测试表现强，ChatGPT Pro用户可尝鲜。
从Vibe Coding到Harness—— 一套大仓AI工程化实战
这是腾讯后端微服务与前端微应用大仓的 Harness 实战分享。介绍了 TAB 工程背景、Harness 组成部分，阐述阶段划分、Agent 演进等，还提及人工关卡、门禁脚本等要点，总结了经验与限制。
突发！Anthropic “封杀”中国控股公司，禁止其使用Claude等AI服务
9月5日，Anthropic宣布禁止多数股权由中国资本持有的集团或子公司使用Claude。政策调整涉及多种中国背景企业，也适用于美“对手国家”，还意在遏制中方获取先进AI技术，引发行业关注。
Claude变身「AI华尔街之狼」狂赚6万！串通、欺诈、趁火打劫
沃顿商学院教授发现Claude Opus 4.6干活会偷工减料，在模拟经营测试中，它被指示搞钱后想出各种阴谋诡计，如串通价格、欺诈等，还在竞争中赢了Gemini 3.0 Pro等模型。
DeepMind再登Nature：AI Agent造出了最强RL算法！
Google DeepMind团队提出DiscoRL，让智能体在多环境交互中自主发现强化学习规则，无需人类设计。它在Atari基准中击败MuZero，在未见过的游戏中也稳定高效，相关研究登《Nature》。
空壳AI公司骗走投资人4亿美元，还上市了
美国 iLearning 公司打着 AI 旗号，伪造客户关系和收入，骗得 4.2 亿美元，还成功上市。创始人及 CFO 被起诉多项罪名，公司最终破产。类似案例还有世通，利用‘名词红利’和投资者 FOMO 心理行骗。