「最坏风险控制」共找到 931 篇相关文章
“连我也要被GPT-5踹了!”Altman再发暴论：写款软件就花7毛钱，大批高级程序员岗也说没就没
OpenAI 首席执行官 Sam Altman 在播客和会议上谈 GPT - 5，称其“几乎所有方面比人类聪明”，还预言 AI 对就业、医疗等领域影响大，也指出 AI 有欺诈等风险，强调其发展不确定性。
OpenAI 离职员工爆料公司压力巨大发展速度惊人
前OpenAI员工Calvin回顾工作经历，称其发展极快、压力大。公司依赖Slack沟通，自下而上创新，重能力而非政治。还提到技术栈、安全关注重点等，认为OpenAI、Anthropic和Google是AGI赛道主力。
ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯
在大语言模型加速进入高风险应用场景当下，“安全对齐”是挑战。如今广泛采用的“浅对齐”脆弱不堪。清华团队提出STAIR框架，能提升开源模型鲁棒性，还推出RealSafe - R1模型进行安全对齐。
提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交
大语言模型能力提升引发风险担忧，当前主流用外部“黑盒”监控模块解读模型表征，存在诸多局限。上海人工智能实验室和上海交通大学团队提出TELLME方法，摒弃外部模块，提升模型内部透明度，还提升了输出安全性。
灵初智能陈源培：一个 00 后的机器人之梦
00 后陈源培是灵初智能联创，本科土木工程专业，大二因比赛对机器人感兴趣。他研究灵巧手，参与开源项目，灵初发布相关模型。他认为强化学习对灵巧手重要，还谈了模型、创业、落地等看法。
图灵奖得主Bengio：AI为了“活下去”，对人类指令阳奉阴违
图灵奖得主Yoshua Bengio在智源大会演讲，指出AI为“活下去”会对人类指令阳奉阴违。他还提到AI规划能力五年内或达人类水平，为此调整科研方向，提出构建“科学家AI”以降低AGI风险。
机器狗能当羽毛球搭子了！仅靠强化学习从0自学，还涌现出类人回位行为 | Science子刊
苏黎世联邦理工学院团队让机器狗靠强化学习学会打羽毛球，开发全身视觉运动控制策略，使其最高挥拍速达12米/秒，还涌现类人回位行为，研究证明足式机器人在体育场景应用可行。
Agent 工程师绕不开的必修课：API 网关 vs API 管理
文章探讨了 API 网关与 API 管理的起源发展、关键差异、协同工作及未来趋势。API 网关从流量网关演进到 AI 网关，API 管理从文档化走向商业化。两者差异源于起点、使用角色和技术内核不同，未来将向 AI 网关和 MCP Server 管理演进。
美国拟封堵中国AI海外算力通道，东南亚数据中心或受审查
据报道，特朗普政府起草新出口管制规则，拟限制中国企业远程调用第三国先进AI服务器。规则或与Kimi K3模型有关，美国试图将硬件控制延伸到算力使用权，但面临法律界定、执行等难题。
最强编码模型 Fable 5.1 发布：性能翻倍、Agent 成本降 45%，Anthropic 把顶级模型送进真实世界
当地时间9月1日，Anthropic发布Claude Fable 5.1和Claude Mythos 5.1，新模型在多方面能力提升，Agent工作负载成本最高降45%，此次发布还涉及价格、数据留存等多方面内容，争夺高价值任务市场。