「安全分类器」共找到 1233 篇相关文章
8种LLM架构设计大比拼：从 DeepSeek-V3 到 Kimi K2，究竟有啥不同
文章对比了8种LLM架构设计，如DeepSeek-V3、OLMo 2等。介绍各模型关键技术，像DeepSeek-V3的多头潜在注意力和混合专家架构，还分析不同设计对性能、效率的影响，助读者了解LLM架构差异。
刚刚，OpenAI通用智能体ChatGPT Agent正式登场
北京时间周五凌晨，OpenAI发布全新ChatGPT Agent，实现通用智能体能力关键升级。它能自动用多种工具规划，完成复杂任务，已向部分订阅用户开放。其整合多能力，配备工具，基准测试表现佳，但也有安全风险。
揭示隐藏联系：RLHF/DPO即对比学习！
大型语言模型输出符合人类价值观是挑战，主流技术RLHF复杂、昂贵且不稳定，DPO简化流程但有训练崩溃问题。论文揭示RLHF/DPO即对比学习，提出MIO算法解决DPO崩溃，实验验证其性能优势。
AI"学霸"也解不出高中题？耶鲁、复旦发布MMSciBench，揭示AI理科推理能力短板
耶鲁、复旦等推出MMSciBench评测基准，揭示主流模型复杂科学推理短板。它有高质量数据、多模态多题型测试和精细知识分类体系。测试发现模型图文融合及推理能力弱，英文推理或效果更好。
Hinton为给儿子赚钱加入谷歌，现在痛悔毕生AI工作，“青少年学做水管工吧”
被誉为‘AI教父’的Geoffrey Hinton在访谈中称后悔毕生AI工作。他列举网络犯罪、超级智能威胁等AI风险，建议青少年学做水管工避职业危机，呼吁AI公司研究安全并加强监管。
刚刚，Bengio官宣创业！急筹3000万专治AI欺骗人类，图灵三巨头全下场
图灵奖得主Yoshua Bengio官宣创办非营利机构LawZero，致力于研发「设计即安全」的AI系统，以应对AI军备竞赛风险。其研发的「Scientist AI」不具行动性，目标是理解世界，防止人类陷入AI风险。
可解释性杀疯了！结合机器学习，发顶会轻轻松松！
在机器学习领域，模型可解释性愈发重要。结合XAI技术能提升模型透明度与可信度，如预测儿童饮食多样性、心血管疾病分类准确率很高。还整理9篇相关论文，解析两篇文章创新点、方法和结论。
专访微软CTO：微软大力发展Agent，智能体将无处不在
微软CTO Kevin Scott在“Build2025”大会期间接受专访，解读微软推动智能体生态发展。微软重视智能体应用，众多组织用其平台开发。他还探讨编程看法、行业变化、安全模型、市场模式等问题。
ACL2025 | 代码助手火了，但安全吗？所有模型评估结果都很扎心
近期，GitHub Copilot、ChatGPT等AI代码生成工具爆火，效率显著提升，但代码安全性存疑。北大团队用CoV-Eval评测20款主流大模型，结果不佳，论文还给出优化方向，呼吁代码上线前严格测试。
GPT-6 Astra：欢迎来到 AGI 时代。
OpenAI 发布 GPT - 6 Astra，总裁称开启 AGI 时代。演示视频展示其强大并行处理能力，跑分有争议，成绩不一。它有诸多成果和安全表现，也有可监控性降低问题，发布过程却状况百出。