「未对齐行为」共找到 1130 篇相关文章
Meta 删邮件事故背后，OpenClaw 为什么会“失忆”？代码库维护者拆解记忆架构
OpenClaw在使用中易“失忆”，如Meta对齐总监用它处理邮件时失去控制。文章从代码库维护者视角，拆解记忆架构，介绍记忆层次、失败模式，给出配置建议和故障排除方法，助用户了解并优化其记忆机制。
OpenAI估值5000亿，打平马斯克身价！一夜登顶全球最贵独角兽
外媒称OpenAI以5000亿美元估值完成员工「二次售股」交易，超越SpaceX成全球最大初创公司。同时马斯克个人财富冲破5000亿美元。OpenAI虽未盈利，但受资本追捧，还面临人才竞争，将连发新成果。
前百川智能联创焦可新创业公司曝光，新项目已上线 App Store
前百川智能联创焦可新创业公司曝光，其推出的AI语音产品“来福”已上线App Store。该产品定位AI语音电台应用，探索声音交互场景，目前仅邀测。国内大厂未推专注AI播客独立产品。
告别微调时代：拖拽式LLMs实现12000倍加速适配，输入描述，秒级定制LLM，效果、速度全面超越
传统高效微调技术成大规模部署瓶颈，论文提出Drag-and-Drop LLMs (DnD)，仅需输入目标任务未标注提示，即可秒级生成适配的LoRA权重，实现LLM秒级免训练适配，效率、性能和泛化性上均有突破。
刚刚，OpenAI GPT-6 Astra震撼发布！AGI时代来了
OpenAI正式发布GPT - 6 Astra，总裁称已到AGI时代。该模型定位为“世界上最智能、最对齐的模型”，在多领域表现出色，能力强、速度快、成本低，还具备“关键级”网络安全能力，将逐步开放给用户。
会挖0-day漏洞！凶残版Claude官宣却不让用，微软苹果齐下场“看守”，Anthropic到底在图什么？
Anthropic官宣Mythos Preview，却未将其放给普通人用，而是塞进防御联盟Glasswing。Mythos在漏洞发现和利用上能力超多数人类，Anthropic怕其引发风险，先将它组织进防守体系，还试图占据‘负责任的frontier lab’位置。
谷歌一篇论文引爆存储芯片崩盘！AI内存需求暴降6倍，推理狂飙8倍
谷歌发布TurboQuant算法，将缓存压到3 - bit，内存占用降为1/6，推理速度提升8倍。该算法冲击存储巨头，引发股价下跌，虽目前未改变采购量，但改写推理成本，且从论文到落地的路在缩短。
Meta出1亿美元，挖角OpenAI员工
CNBC消息，Meta曾试图以1亿美元签约奖金和高年薪挖OpenAI员工，但未成功。Meta CEO扎克伯格亲自为AI实验室组顶尖团队，此前还推迟旗舰模型发布，近期收购Scale AI部分股份并挖来多名人才。
AI辩论能力碾压人类，81.7%概率让你信服！研究登Nature子刊
《自然·人类行为》研究指出，在线辩论中，大语言模型根据对手特征个性化论点时，比人类更具说服力。实验显示，与GPT - 4辩论的参与者有81.7%更高概率认同其观点，应加强对大模型舆论操控的监管。
25位IT大佬亲述：AI「吃掉」程序员！码农黄金时代终结
AI Impact Lab创始人探讨AI对技术岗位影响，提到AI公司熟悉技术岗、指标清晰等原因或致其先受冲击，调研显示AI未改变多数岗位但影响初级岗位招聘、模糊岗位边界，还对未来技术就业市场做了预测。