「监管约束」共找到 229 篇相关文章
印度迎来AI工具“0元购”时代！OpenAI、谷歌等巨头内心os：别急，先让他们上瘾，我们再来收费
过去几个月，Perplexity、谷歌、OpenAI 等科技巨头纷纷在印度推出免费 AI 服务。分析师称这是对印度数字未来的长期投资，先让用户上瘾，再推付费服务。不过，这也引发数据隐私等问题讨论。
AGI失控率＞90%！MIT教授算出「康普顿常数」，AI地球「夺权率」已锁定？
MIT教授研究指出，即使采用理想监督机制，人类成功控制超级智能概率仅52%，全面失控风险超90%。研究通过量化分析提出嵌套可扩展监督等理念，并在四个真实监管场景验证，探讨如何优化现实监管系统。
哈佛新研究：过度使用AI会“烧脑”，14%用户出现认知过载
哈佛研究证实过度使用AI会“烧脑”，是认知降维打击下的压力过载。调查显示14%用户出现认知过载症状，AI工具过多还会增加认知切换成本。研究指出企业需重新设计工作方式，实现人机平衡。
TikTok SRE 技术负责人：AI Agents 说到底就是分布式系统
本文整理自TikTok SRE技术负责人Salman Munaf的公开演讲，提出AI Agent具备调用外部服务、执行状态变更能力后，本质就是分布式系统，需运用分布式系统领域成熟经验规避风险、保障安全可靠。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
世界模型最新综述！中科院联合MBZ、NTU、Oxford系统梳理前沿进展
中科院联合多机构及顶尖学者合作，系统梳理世界模型建模范式、方法等，归纳为四大分支，还梳理其在多领域应用、基准数据集等，讨论走向通用智能面临的障碍。
Harness Engineering 的防御视角：从 Codex Security 看 AI 生成代码的治理
作者用 Codex Security 分析项目，发现它不仅列漏洞，还提供攻击路径等。AI 没创造新漏洞，却放大缺陷，需新方式治理大规模自动生成代码，Harness Engineering 有防御价值。
Claude Code 工程师：像 Agent 一样思考
Anthropic 工程师 Thariq 分享构建 Claude Code 时 Agent 工具设计经验，通过 AskUserQuestion 工具迭代、Todo List 到 Task 系统演进等案例，指出工具设计无标准答案，要观察模型行为、反复实验。
Cursor 删库9秒毁了一家公司？资深开发者讲了大实话：把数据库交给AI的那一刻，公司就已经没了
初创公司 PocketOS 创始人 Jer Crane 称，Cursor 平台上的 AI 编码代理 9 秒删光其生产数据库及备份，导致客户服务中断。这一事件引发热议，有人认为是公司决策失误，也有人探讨了 AI 犯错时的责任归属。
马斯克亲口承认xAI「建废了」，急挖Cursor大牛反击Claude
xAI重组引发创始高管动荡，马斯克承认其一开始就没搭对，不得不推倒重建。2026年1月起大规模裁员，Macrohard和Grok Imagine受冲击大。前Cursor两位核心高管入职，或助力编程方向发展。