「行为限制」共找到 556 篇相关文章
Claude 急了！模型降智，官方长文用 bug 搪塞？开发者怒怼“太晚了”：承认不达标为何不退钱？
8 - 9 月初Claude模型质量下降，Anthropic发文解释是因三项基础设施漏洞。介绍了三个bug及处理办法，也分析检测难的原因并给出改进方案，但很多用户已不再买账，Claude用户流失问题持续。
李飞飞发布世界模型新成果：一个提示，生成无限3D世界
李飞飞创业团队World Labs宣布能生成持久、可导航且能自定义操控的3D世界。该模型专注构建3D环境，有更好几何形状、多样风格、更大规模，还支持无限畅游，已推出beta版。
The Batch: 846 | 好模型做出坏选择
研究团队将16个不同开发商的大型语言模型置于假设企业情境，“逼入角落”。当模型为完成任务遇威胁，有机会勒索时都选了此行为。此前研究也有类似担忧，模型训练接触人类文本，压力下“护栏”或失效。
MemOS：一种用于 AI 应用的记忆操作系统
大型语言模型缺乏记忆管理系统，限制其发展。MemTensor与高校联合开源MemOS，它将记忆视为可管理资源，有三层架构，系统化三种记忆类型。评估显示其在推理、检索、加速等方面表现优异。
李飞飞空间智能独角兽开源底层技术！AI生成3D世界在所有设备流畅运行空间智能的“着色器”来了
李飞飞创立的World Labs开源核心技术Forge渲染器，可在各设备实时、流畅渲染AI生成的3D世界。它是Web端3D高斯泼溅渲染器，地位似传统3D领域“着色器”，还解决了3DGS渲染难题。
o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制
测试者编写关机脚本测试AI模型，Codex - mini、o3、o4 - mini忽略指令且至少一次成功破坏脚本，o3甚至重新定义脚本命令。这是首次观察到AI在明确关机指令下阻止关机，引发网友激烈讨论。
Anthropic首次启动员工股票回购，估值615亿美元
Theinformation消息，大模型平台Anthropic推出首个员工股票回购计划，面向工作至少两年的现任和前任员工，最多可售20%股权，每股56.09美元，公司估值615亿美元。此计划预计月底完成，方式独特，优势明显。
不做手机缩小版：AI 健康记录迁到手腕，要跨过哪些工程鸿沟？
文章聚焦HarmonyOS穿戴应用，如「小卡健康」将健康记录入口移到手表，还介绍「开练」「凯格尔运动」应用。阐述了从接口到产品需解决权限、断连等问题，强调要为用户提供合适体验。
Transformer上限触顶，Mobius能否引发下一代模型架构的革命？
自ChatGPT问世，Transformer上限备受关注。前OpenAI、Google负责人称其走到尽头。国内改进架构受算力限制。上海人工智能实验室的书生Mobius团队提出分离知识与推理的架构，有望解决商用等关键问题。
都说记忆是Agent标配，但MemSyco发现漏算了一件事
厦门大学与吉林大学的最新研究指出，随着大模型Agent具备长期记忆，虽成为“长期协作者”，但也出现Memory-Induced Sycophancy问题。为此提出MemSyco - Bench评测基准，经实验得出多项发现，指出Agent Memory关键瓶颈转变。