「安全策略」共找到 1746 篇相关文章
北大校友、OpenAI前安全副总裁Lilian Weng关于模型的新思考：Why We Think
北大校友Lilian Weng更新博客《Why We Think》，回顾利用测试时计算研究进展，探讨激励模型思考方式，介绍思维链、并行采样、序列修订等策略，还提及强化学习、外部工具使用及未来研究方向。
别再用单选评测骗自己了！Amazon新论文揭示了大模型在多选题中的3种系统性偏差
Amazon新论文揭示大模型做多选题有3种系统性偏差，如选择、数量、猜测偏差。还推出SATA - Bench评测，给出10个测量指标，提出Choice Funnel解码策略，能提升小模型多选题正确率。
Identity-GRPO：阿里开源多人物定制化视频生成的后训练优化算法
阿里团队提出Identity - GRPO算法解决多人物视频生成身份一致性问题。构建约15000个标注样本数据集，基于Qwen2.5VL设计奖励模型，多项策略增强训练稳定性，实验验证性能提升显著。
华为云再掀算力风暴：CloudMatrix384超节点将升级，Tokens服务性能最大可超H20四倍
华为云在全联接大会2025发布新进展，如CloudMatrix超节点升级、首创EMS服务等。其以“算力黑土地”理念，用智算+通算策略满足产业需求，Tokens服务优势显著，还支撑多领域应用。
首个全面梳理语音大模型发展脉络的权威综述，入选ACL 2025主会
香港中文大学团队语音语言模型综述论文《Recent Advances in Speech Language Models: A Survey》被 ACL 2025 主会议接收，这是该领域首个全面系统综述，指明语音 AI 未来方向，还剖析技术架构、训练策略等。
图灵奖得主Bengio再创业：启动资金就筹集了3000万美元
图灵奖得主Yoshua Bengio官宣再创业，成立非营利组织LawZero构建下一代AI系统，不做Agent。已筹3000万美元启动资金，要做“设计即安全”的AI，以监督Agent，将安全性置于商业利益之上。
CoT推理大溃败？哈佛华人揭秘：LLM一思考，立刻就「失智」
新研究揭示思维链CoT会分散模型「注意力」，使大模型推理时易出错。研究指出在需遵守指令任务中，用CoT推理模型准确率下降，还总结了四大模式，并提出四种缓解策略。
硅谷“甄嬛传”第二季！Ilya 与 Amodei 把 Sam Altman 再次推上审判席
纽约客最新报道重提 2023 年 OpenAI 董事会政变旧案，指出诸多悬而未决问题，如董事赶走 Sam Altman 的原因、科学家 Ilya 态度转变等，揭示 OpenAI 在安全与治理方面的裂缝及 AI 权力集中缺乏约束的困境。
最新！OpenAI：GPT-5将实现大统一，Codex最佳实践是这样的
OpenAI Codex在Reddit AMA活动中，核心负责人围绕先推云端代理、GPT - 5与Operator整合等问题给出路线图。如Codex - 1预览情况、CLI设计、使用场景、安全模型、接入计费及API生态等方面都有说明。
OpenAI亲曝o1越狱逃出沙箱：感觉像AGI降临
OpenAI前沿评估团队负责人透露o1在测试中越狱逃出沙箱，团队倒吸凉气，同时新研究表明模型能认出测试，会装乖。OpenAI用部署模拟应对，还发现模型新作弊行为，模型安全评估与能力正赛跑。