「人类灭绝风险」共找到 1616 篇相关文章
颠覆搜索引擎，下一代Agentic Deep Research！12家顶尖学术机构联手提出
在信息获取方式变革背景下，12家顶尖机构联合发布论文提出Agentic Deep Research，它由大模型驱动，可自动规划检索路径等，或颠覆传统搜索范式，且有基准成绩和TTS Law支撑，开源生态也在聚焦。
ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯
在大语言模型加速进入高风险应用场景当下，“安全对齐”是挑战。如今广泛采用的“浅对齐”脆弱不堪。清华团队提出STAIR框架，能提升开源模型鲁棒性，还推出RealSafe - R1模型进行安全对齐。
提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交
大语言模型能力提升引发风险担忧，当前主流用外部“黑盒”监控模块解读模型表征，存在诸多局限。上海人工智能实验室和上海交通大学团队提出TELLME方法，摒弃外部模块，提升模型内部透明度，还提升了输出安全性。
72小时AI生存挑战，发生了什么？
五源发起72小时AI生存挑战，7位不同背景参与者在封闭空间，仅用AI工具和100元资金生存并创造。有人训练AI朋友，有人创作作品。过程中暴露诸多问题，也让大家看到AI能力边界与未来可能。
Lex Fridman 对谈谷歌 CEO：追上进度后，谷歌接下来打算做什么？
Lex Fridman 采访谷歌 CEO Sundar Pichai，探讨谷歌在 AI 竞赛中的逆袭、搜索和广告的 AI 模式转变、模型发展、AI 编程提效、AR 前景、自动驾驶挑战等，还谈及 AGI 及 AI 对人类的影响。
估值 20 亿美元的语音输入法，开源平替已经 3 万 star
文章指出语音输入随着 AI 发展价值重估，介绍了开源工具 OpenLess，分析了商业订阅、开源桌面工具、大厂输入法三类玩家，给出四层评估框架，也提及开源风险，并对不同需求给出选择建议。
奥特曼最新深度访谈：AI至今没有iPhone时刻！
OpenAI首席执行官山姆·奥特曼在深度对谈中复盘大模型发展，谈及砍掉Sora和自研浏览器聚焦平台，认为AI缺iPhone时刻，还分享ChatGPT决策过程、创业经历，提出从成功学经验等观点，反驳末日论。
从亚百毫秒级启动到生产级部署，腾讯云为何重构 Agent 沙箱？
2026 年初，OpenClaw 掀起本地终端 Agent 热潮，但也带来安全风险，让 Agent 沙箱受关注。腾讯云 4 月开源 Cube Sandbox，InfoQ 采访金峰，了解其从 Serverless 到 Agent 沙箱过程及团队对下一代 Agent Infra 的判断。
红杉高瓴投资，前美团民宿 CEO 联合伯克利教授，做了一只 AI 蘑菇
Sowii 推出潮玩「秃秃」，首批 3 万件两天售罄，后续预售超 20 万件。创始人冯威赫是前美团民宿 CEO，联合创始人是伯克利教授。该产品让用户对非人类对象产生关注并建立关系，探索数字生命新形态。
全国大学生，苦 AIGC 检测久矣
央视报道，多位高校学生毕业论文被 AIGC 检测系统误判，甚至《滕王阁序》《出师表》也被标为高风险。检测原理主要依赖「AI 困惑度」和「突发性」。毕业季检测算法升级致结果大幅波动，引发学生不满。