「规则治理」共找到 381 篇相关文章
Telegram创始人搞了个狠活：100%隐私的去中心化AI网络
Telegram创始人帕维尔·杜罗夫推出专注机密AI计算的去中心化网络Cocoon，或终结中间商垄断。它基于TON区块链，有三层架构，四步完成AI查询，但面临延迟和竞争挑战，未来将采用DAO治理。
为什么95%的智能体都部署失败了？这个圆桌讨论出了一些常见陷阱
硅谷圆桌论坛指出，95%的AI智能体部署失败，原因并非模型不智能，而是基础框架、上下文工程等未成熟。还探讨了上下文工程实践、信任治理、记忆设计、多模型编排等问题，给出创业者需思考的问题。
LeCun世界模型：48倍规划速度，单卡就能跑
Yann LeCun团队推出LeWorldModel世界模型，仅靠两条数学规则，让机器几小时学会物理运转逻辑，动作规划速度超同类48倍。它跳出复杂训练修补怪圈，单卡训练，在多环境测试表现出色，还展现对物理法则的深刻理解。
Anthropic开源认知对齐MSM
大模型对齐、安全问题是行业大事，Anthropic开源的MSM对齐方法，能将Qwen3 - 32B的agent错位率大幅降低。它先给模型讲规则逻辑再微调，控制精度高，还研究了最佳实践，将改变大模型对齐流程。
从混沌到可控：企业应用中AI Agent不确定性控制的 10 种策略
大语言模型输出的不确定性限制了AI智能体在企业场景的应用，本文总结控制生成式AI Agent不确定性的常见策略，涉及技术、应用设计、管理与治理层面，还推荐了相关作品。
Anthropic 最新论文：阻止 AI 叛变的方法
Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。
让AI真正懂数据：猫超Matra项目中的AI知识库建设之路
文章聚焦猫超Matra项目的AI知识库建设。猫超数据体系庞大但有治理难题，促使Matra项目诞生，旨在实现智能取数。文中详述知识库设计、实践及效果，还提及未来在准确性、保鲜性和能力拓展上的规划。
故意“装菜”答错问题，AI已能识别自己“正在被测试”丨OpenAI新研究
OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。
延伸阅读｜约书亚·本吉奥：为什么必须重视AI安全——系统性回应各种反对论点
本文是图灵奖得主约书亚·本吉奥谈论AI安全的文章，系统性回应了各类“无需担忧AI安全”的反对论点，从技术控制与社会治理层面探讨AGI、超级人工智能的风险应对，强调不能因不确定性推迟行动。
月烧35万元token、逼得Claude官方连夜限速！被全网吐槽的中国“榜一大哥”，已经靠 AI 年入千万了
X用户“刘小排”认领30天按200美元计划消耗5万美元Claude Code token一事。他靠AI年入近千万，用Claude Code做产品，回应网友质疑，称在规则内使用，还分享创业经验，认为AI是长期机会。