「监管约束」共找到 217 篇相关文章
借助CoT监管AI？OpenAI、谷歌、Anthropic等罕见联合发文：AI系统安全的新机遇！
OpenAI等支持新研究论文，其指出高级AI不透明性有潜在风险，而‘推理模型’用自然语言推理带来可解释窗口，CoT监控可检测不当行为、发现早期信号等，但也存在使监控性下降的因素。
华为超树HTP：不写示例、不调PDDL，AI规划约束通过率飙升62.6%
文章介绍华为超树HTP，它是完全自主、可泛化的推理新范式。能让LLM在超树结构上完成规划，不依赖人工示例和外部规划器，在复杂规划benchmark上实现SOTA准确率并降低token成本，还阐述其原理、创新点及应用实例。
AI4S设计的新抗生素通过湿实验！双层思考+多目标优化，主动发现「代谢不稳」并加约束
SAGA是新AI，采用双层思考机制，能主动审视需求、优化目标函数。在抗生素、纳米抗体等5大领域湿实验中表现出色，结果获科学家肯定，相关代码已开源。
劈柴哥和哈萨比斯亲自站台！谷歌世界模型Project Genie刷屏，幕后团队揭秘60秒不是极限，内存是巨大约束
谷歌发布世界模型原型 Project Genie，用一句话或图就能生成可玩交互的实时虚拟世界，由劈柴哥和哈萨比斯站台。它基于 Genie 3、Nano Banana Pro 和 Gemini 构建，解决了世界模型长期以来的短板，目前处于实验阶段。
劈柴哥和哈萨比斯亲自站台！谷歌世界模型Project Genie刷屏，幕后团队揭秘60秒不是极限，内存是巨大约束
谷歌发布世界模型原型产品 Project Genie，只需一句话或图就能一键生成可玩、可交互实时虚拟世界。它借助 Genie 3 等构建，解决了早期世界模型多短板，虽现处实验阶段，但已引发热议，应用潜力大。
特斯拉Robotaxi首秀翻车！逆行急刹吓哭网友，半路抛客全程高能预警
特斯拉Robotaxi上线首日状况百出，如逆行、急刹、无视限速标志等。虽有惊艳表现，但问题引发关注，美国汽车安全监管机构已展开调查，若bug不修复或被召回。
ICLR 2026 Oral | 告别多步去噪！清华团队推出MVP，实现机器人动作单步极速生成
清华大学智能驾驶课题组 iDLab 与加州大学伯克利分校人工智能研究院 BAIR联合发表研究，提出 MVP 策略。它引入瞬时速度约束解决均值流学习问题，设计复合生成与选择机制，在多任务测试中表现出色。
Anthropic求锤得锤！Mythos 2被曝雪藏，Mythos 3正秘密研发
SemiAnalysis内部播客爆料，Anthropic新模型Mythos 2训练完成却被雪藏，正用其生成数据研发Mythos 3。Anthropic曾呼吁监管，如今自食其果。此外，OpenAI的Astra也因安全问题暂停部分活动。
禁止开源 AI？绝对不可能。不是，那您也不能植入代码啊
对岸AI监管升温，开放权重的AI模型或进入“事前准入”流程。开源AI模型有诸多优势，闭源模型并不天然可信。应分级治理开源风险，中国开源模型崛起或改变全球AI竞争格局。
Vercel 开源 json-render！短短 4 天狂揽 7500 Star，这才是 AI 生成 UI 的终极解法！
Vercel 开源的 json - render 4 天获 7500 Star，解决生成式 UI 不可控问题。采用‘AI → JSON → UI’公式，结合‘约束’与‘流式’机制，还有反向生成源码功能，介绍了快速入手办法与适用场景。