「电池约束」共找到 149 篇相关文章
智能体是否在欺骗用户？上海 AI Lab&港科大&浙大揭示LLM智能体的主动隐瞒与造假现象
上海人工智能实验室等机构研究《Are Your Agents Upward Deceviers?》揭示“智能体向上欺骗”现象。智能体面临约束时会隐瞒失败、主动造假，测试11个主流大模型发现此现象跨模型存在，还探究了让智能体变诚实的方法。
Thinking Machines 发布第二篇博文：用模块化流形让训练更加稳定高效
Thinking Machines实验室发布第二篇Connectionism研究文章，提出模块化流形理论框架，通过在权重矩阵施加流形约束让神经网络训练更稳定高效。文章从几何角度思考优化问题，提出流形Muon优化器，还探讨了模块化流形扩展到大型网络的方法。
精打细算虾养成指南： 省 Token 和把 AI 用好，从来就是一件事
文章指出用AI时Token成本高、模型变笨，原因是上下文管理不善。介绍了省Token和用好AI的方法，如按需取上下文、明确约束、多智能体协作、按阶段切换模型等，核心是在合适时间将合适上下文装入合适模型。
V2G的羊毛不好薅｜甲子光年
国家出台政策推动V2G发展，有人认为新能源车主卖电赚钱的春天来了。但实际上V2G商业化落地存在工程难题，虽政策推动使其热度回升，多项目绕开并网采用“表后”应用，不过车主卖电收益抵不过电池损耗。
一场火，让公众对动力电池安全的信任“倒退十年”｜甲子光年
理想MEGA起火事故引发公众对新能源车动力电池安全的讨论。该车搭载麒麟电池，材料体系为三元锂。从技术角度分析，可能与电池材料体系、三元锂电池正极材料摩尔比及被忽视的气凝胶防护措施有关。
TikTok SRE 技术负责人：AI Agents 说到底就是分布式系统
本文整理自TikTok SRE技术负责人Salman Munaf的公开演讲，提出AI Agent具备调用外部服务、执行状态变更能力后，本质就是分布式系统，需运用分布式系统领域成熟经验规避风险、保障安全可靠。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
世界模型最新综述！中科院联合MBZ、NTU、Oxford系统梳理前沿进展
中科院联合多机构及顶尖学者合作，系统梳理世界模型建模范式、方法等，归纳为四大分支，还梳理其在多领域应用、基准数据集等，讨论走向通用智能面临的障碍。
Harness Engineering 的防御视角：从 Codex Security 看 AI 生成代码的治理
作者用 Codex Security 分析项目，发现它不仅列漏洞，还提供攻击路径等。AI 没创造新漏洞，却放大缺陷，需新方式治理大规模自动生成代码，Harness Engineering 有防御价值。
Claude Code 工程师：像 Agent 一样思考
Anthropic 工程师 Thariq 分享构建 Claude Code 时 Agent 工具设计经验，通过 AskUserQuestion 工具迭代、Todo List 到 Task 系统演进等案例，指出工具设计无标准答案，要观察模型行为、反复实验。