「封号规则」共找到 262 篇相关文章
Anthropic 最新论文：阻止 AI 叛变的方法
Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。
故意“装菜”答错问题，AI已能识别自己“正在被测试”丨OpenAI新研究
OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。
月烧35万元token、逼得Claude官方连夜限速！被全网吐槽的中国“榜一大哥”，已经靠 AI 年入千万了
X用户“刘小排”认领30天按200美元计划消耗5万美元Claude Code token一事。他靠AI年入近千万，用Claude Code做产品，回应网友质疑，称在规则内使用，还分享创业经验，认为AI是长期机会。
GPT-5.6攻克25年量子信息难题，人类学者连夜「像素级」洗稿发论文
7月23日，量子信息领域一道悬了25年的难题出现两份独立证明，一份由GPT - 5.6 Sol生成，另一份人类署名论文被质疑与GPT - 5.6 Sol输出相似且无AI使用声明。GPT - 5.6 Sol半月内已在多学科产出证明，引发学术署名规则讨论。
神秘具身团队又放出一连串很炸的Demo视频…自进化模型，技术路线曝光
神秘具身团队放出一连串Demo视频，其内部代号“MVP”的模型让机器人似人般思考决策。视频展示机器人在不同场景下的表现，如躲避推搡、做家务、机器人协作、高效收纳等，体现对物理规则和人类习惯的理解与自进化能力。
AI给你的总是平庸答案?5.8万星插件证明:问题不在模型,在你
GitHub上5.8万星的`taste-skill`仓库，无模型代码，仅用文本规则让AI编程工具输出更有品味。揭示AI默认给平庸答案是概率采样结果，还给出反中位数三问及AI时代变贵的是判断力。
YC 开源自家 Harness，3 天斩获 3.9k Star，QM 如何划清 Agent 的权限边界
YC开源的QM项目上线3天获3.9k GitHub Star，定位企业级Agent Harness，解决AI规模化落地管理难题。它补齐企业团队刚需能力，设计贴合企业规则，解决隔离与协作、权限管理问题，顺应行业从拼模型到搭骨架的转变。
真香！我用AI做PPT的血泪史：从“能用”到“真香”，V3版到底解决了什么？
作者因公开分享需做PPT，尝试多种AI PPT工具后，自己围绕Agent攒了一个。从V1到V3版不断改进，V3用多Agent提示词用法，风格多样且规则减少，还给出3步制作PPT的方法及后续功能拓展想法。
国产「3D版Anthropic」再获数亿融资！60人初创，卡住全球3D脖子
影眸科技完成数亿元新一轮融资，发布全球首个具千万面级生成能力、引入‘先思考、再生成’逻辑的3D大模型Hyper3D Rodin Gen - 2.5。其有诸多优势，获多巨头认可，目标是定义空间智能底层规则。
Anthropic让AI先读员工手册再上岗：失控率从54%降到7%
Anthropic最新研究「模型规范中期训练」（MSM）显示，相同训练数据配不同行事原则，模型表现不同。MSM在预训练和对齐微调间加中间阶段，让模型读规范文档理解准则，在特定实验中，将Agent失控率从54%降到7%。