「信任危机」共找到 236 篇相关文章
AI若解决一切，我们为何而活？对话《未来之地》《超级智能》作者 Bostrom | AGI 技术 50 人
本文是对《未来之地》《超级智能》作者 Nick Bostrom 的访谈。他探讨了人工智能发展到解决一切问题的“已解决世界”时人类面临的意义危机，如失去目标、工作冗余等，也提及应对伦理挑战、寻找新意义等观点。
震惊！如果AI掌控核按钮，95%的情况它会按下去
伦敦国王学院研究者让GPT - 5.2、Claude Sonnet 4和Gemini 3 Flash三款模型模拟核危机博弈。不同时间框架下模型表现不同，还展现复杂战略推理能力，95%对局用了战术核武，暴露诸多问题。
Claude Code 10天写完Cowork 全部代码！Anthropic 新品抢白领饭碗，争议拉满！
Anthropic推出基于Claude Code架构的Cowork，定位是协作智能工作体。它能操作文件、解决工作流断裂问题，但有操作和提示注入风险。目前是研究预览版，后续会改进，引发能否被信任的讨论。
谁杀死了那篇好论文？AI顶会乱象：好文被刷，低分论文捧上天
一位AAAI 2026审稿人在Reddit匿名爆料，称评审流程乱象丛生，好论文被拒、弱论文晋级，还有疑似“关系稿”。AAAI启用AI辅助审稿系统，本意提升效率，却让评审更不可控，侵蚀学术信任。
Anthropic 的 Harness 哲学：把 Agent 当牲口，而非宠物
本文分享Anthropic最新两篇博客，介绍其将运维圈“宠物 vs 牲口”哲学用于AI Agent架构设计。旧架构如“宠物”易出问题，新架构脑手分离，把Harness做成可随时重启的“牲口”，降低延迟、提升安全，还提出信任框架。
强化学习的进化：从PPO到MaxRL，LLM推理训练的算法演进史
本文概述2024 - 2026年推理LLM的强化学习进展，从REINFORCE和PPO讲起，介绍GRPO、RLOO等多种算法。指出critic模型非必需，标准差归一化有副作用，损失聚合很关键，信任域是优化切入点，还提出几个未解决的挑战。
为什么95%的智能体都部署失败了？这个圆桌讨论出了一些常见陷阱
硅谷圆桌论坛指出，95%的AI智能体部署失败，原因并非模型不智能，而是基础框架、上下文工程等未成熟。还探讨了上下文工程实践、信任治理、记忆设计、多模型编排等问题，给出创业者需思考的问题。
哈佛CS博士月入4000，抢GPU搞科研！硅谷百万年薪挖人，学界疯狂逃离
AI人才大战使学术界陷入危机，博士生津贴低、抢显卡搞科研，面对硅谷百万年薪和大厂千亿算力投入诱惑，加速流向产业。教授担心学生跳槽，高校补救难，产业还推出“折中方案”，学术界考验才刚开始。
2026，一篇不错的高效Agents技术全面综述
上海AI Lab等9所高校联合发表《迈向高效智能体（Agents）：记忆、工具学习与规划综述》。文章介绍了高效智能体概念，分析其效率危机，阐述提升效率的三大战略方向，涵盖多种记忆、工具学习和规划方法。
刚刚，高盛发布26页深度 AI 报告：谁将为GPU的饥渴买单？
高盛发布26页《Powering the AI Era》报告指出，AI服务器农场吸电速度远超电网扩容，引发电力危机。报告分析电力供应来源、应对策略等，还提到数据中心供需缺口扩大，电力成AI最大瓶颈，中国公司或因电力等优势成劲敌。