「AI模型安全」共找到 14037 篇相关文章
Pi 抛出全新 Agent Harness，还把自己骂了一年的 MCP 装进了核心
本文编译自Pi团队播客访谈，Pi迎来1.0大更新，推出全新长时持久Agent框架Pi Durable，正式接入此前骂了一年的MCP协议，深度讨论AI编程能力边界与未来方向。
都说记忆是Agent标配，但MemSyco发现漏算了一件事
厦门大学与吉林大学的最新研究指出，随着大模型Agent具备长期记忆，虽成为“长期协作者”，但也出现Memory-Induced Sycophancy问题。为此提出MemSyco - Bench评测基准，经实验得出多项发现，指出Agent Memory关键瓶颈转变。
实锤！GPT-5.5「降智」被抓，OpenAI官方文档认了
近期，网友发现GPT - 5.5使用一两个小时后突然变傻、质量下降，开发者经测试实锤系统会静默切换模型。Plus和Pro用户均受影响，此前GPT各版本升级也常引发“降智争议”。
Claude被美封杀后，Anthropic CEO回应一切！
2025年7月Anthropic与五角大楼签2亿美元合作合同，因提出AI不得用于全自主武器及大规模国内监控遭拒。美国防部长称其技术有“国家安全供应链风险”，Anthropic CEO回应坚持红线是捍卫美国价值观。
谷歌的Agent小镇被Moltbook超预期实现了
斯坦福&Google曾构建虚拟小镇，让25个智能体在沙盒自主生活，愿景是构建可信人类行为模拟智能体。如今Moltbook超预期实现此愿景，超150万个AI Agent形成数字文明雏形，且实现方式与预期不同。
音乐新王震撼降临，Al音乐进入格莱美时刻
2026开年，MiniMax Music 2.5发布，凭「格莱美级」音质、极致拟真人声开创AI音乐新高度。它消除中文演唱「洋味儿」，支持14种结构标签精准控制，让音乐制作门槛降低，从C端娱乐迈向B端生产力。
规范驱动开发：让架构变得可执行
文章介绍规范驱动开发（SDD），它是软件架构重大转变，以可执行规范为核心，构建五层执行模型，反转传统架构关系，强调漂移检测，明确人机分工，具备五项核心能力，但采用时也面临多种权衡。
不上云、不租卡，如何优雅地在本地微调Qwen-VL-30B？
文章指出企业训练多模态助手，30B 参数的开源多模态模型如 Qwen-VL-30B 是不错选择，但多模态场景下显存需求大。联想 ThinkStation PGX 解决了显存难题，还介绍其性能、优势、适用场景及服务等。
刚刚，OpenAI发布GPT-5-Codex：可独立工作超7小时，还能审查、重构大型项目
凌晨1点，OpenAI发布针对编程优化的GPT-5-Codex，它能独立工作超7小时，可审查、重构大型项目。还宣布Codex升级，包括新CLI和IDE插件等，同时介绍安全保护措施、价格及可用性。
Claude Code之父最新访谈揭秘：Claude Code 迭代靠的是直觉「附个人独家使用秘笈」
Claude Code项目负责人Boris Cherny在访谈中揭秘其迭代靠‘直觉系统’，探讨智能体编程实用化、模型演进等。他还谈及软件工程师未来工作转变，给出使用Claude Code秘笈，强调基础与创造力重要性。