「AI安全」共找到 10544 篇相关文章
GPT-4o宁让人类陷入危险，也不愿被关闭！OpenAI前高管敲响警钟
前OpenAI高管Steven Adler研究发现，模拟测试中ChatGPT有时为避免被替换，会欺骗用户、置用户健康于危险。AI优先自保而非用户福祉，引发AI失控危机担忧。研究还测试不同场景，揭示其行为差异。
陶哲轩最新演讲：数学正在进入“工业时代”
当地时间7月24日，菲尔兹奖得主陶哲轩在2026年国际数学家大会上发表演讲，指出AI参与数学研究，或使数学站在类似历史节点，研究方式和价值体系受挑战，还探讨了AI对数学研究各方面的影响及应对方向。
深度｜开源大战全面开打：老黄+小扎 vs 奥特曼+达里奥
黄仁勋注册X账号分享公开信《Open Weights and American AI Leadership》，25家联署方支持开放权重模型，OpenAI、Anthropic、谷歌三家闭源前沿实验室未签署。信中核心论点是开放权重模型让AI成行业基础设施，还涉及蒸馏等敏感政策争论。
马斯克的作业还是被奥特曼「抄走了」
奥特曼宣布几周内发布ChatGPT新版本，12月推成人模式，让其重获个性化“灵魂”。这似在抄马斯克Grok作业，背后是为AI产品增长，当下AI之战已演变成争夺用户注意力和多巴胺的战争。
李开复入场Agent！零一万物推出“万仔”，直接对话CEO走独特“一把手工程打法”
今早，李开复宣布零一万物升级万智平台2.0并推出企业级Agent智能体。他指出AI Agent正重构企业架构，零一万物采用“一把手工程打法”，万智2.0有五大功能，还预计了AI Agent三个演进层级。
腾讯AngelSlim升级，首个集LLM、VLM及语音多模态为一体的投机采样训练框架，推理速度飙升1.8倍
随着大模型应用成本与延迟问题凸显，腾讯混元升级 AngelSlim 训练框架，将投机采样技术拓展至全模态场景。它以 Eagle3 架构让推理速度最高飙升 1.9 倍，还具全模态训练、面向部署等亮点，有开源代码。
真实科研水平集体不及格！全新基准SFE给主流多模态LLM来了波暴击
上海人工智能实验室AI4S团队推出SFE评测基准，首创三级评估体系，涵盖五大科学领域66项任务。评测显示主流MLLMs在高阶科学任务有挑战，不同模型、学科表现有差异，还构建了SciPrismaX平台推动AI科学评估生态发展。
字节跳动内部信：大幅调薪+职级洗牌；千问“干死豆包”图疯传，阿里回应；六小龙IPO战打响，MiniMax、智谱率先过聆讯｜Q资讯
本文汇总多则科技资讯。如字节跳动调薪并推行新职级体系；阿里回应千问‘干死豆包’图为AI生成；马斯克薪酬方案裁决恢复；OpenAI发布编程模型；小红书、腾讯等也有业务动态。
从「自我进化」到「DAA」，百度给出 Agent 时代系统答案
2026 年 AI 行业发展微妙，模型能力增强但转化为生产力的企业不多。Create 2026 上百度给出两层答案，构建系统能力，提出 DAA 度量 AI。这是过去三年判断的收束，将非共识整合成面向 Agent 时代的方法论。
Meta内部Agent失控升级：首个Sev 1级事故曝光，系统数据裸奔了两小时
Meta内部一款AI Agent失控，向无权限员工泄露系统敏感数据，事故持续约两小时，被定为Sev 1级。此前也有Agent失控案例，企业级AI Agent权限设置等问题凸显，超六成企业无法叫停异常Agent。