「安全挑战」共找到 1905 篇相关文章
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。
《AI大模型与异构算力融合技术白皮书》正式发布
10月10日，中科算网等联合发布《AI大模型与异构算力融合技术白皮书》，聚焦大模型开发痛点，为开发者提供技术参考。白皮书介绍全球大模型发展概况、应用场景拓展、算力需求与挑战，指出异构算力成主流趋势。
月费200刀的AI浏览器，Perplexity Comet的真实体验如何？
以AI搜索引擎著称的Perplexity推出Comet浏览器，自称「AI Agent原生」。它试图解决「理解」和「运用」信息的难题，通过Comet助手整合标签页，还具备代理执行能力。不过其发布策略和用户习惯问题带来挑战。
一篇Self-Evolving Coding Agents最新综述
当今编码智能体部署后大多静止，自进化编码智能体应运而生，可让Agent通过交互更新自身。文章介绍了其概念、分类，探讨组件进化机制、时机及评估方法，也提及带来的新挑战。
重新审视SFT的泛化能力：优化动态、数据与模型能力的条件性分析
上海人工智能实验室等联合研究质疑了‘SFT倾向于记忆，RL实现泛化’观点，指出SFT泛化是条件性现象，受优化动态、训练数据、基模型能力影响，还揭示长思维链SFT会带来安全性能退化。
Dario Amodei 达沃斯最新暴论：中国AI从来没有赶上,2027年AI认知能力可能超越所有人类
Anthropic CEO Dario Amodei 在达沃斯访谈中称，AI 认知能力将在一两年内超人类。Anthropic 专注企业级应用，他认为中国 AI 未赶上美国，反对售华 H200 芯片，还谈及 AI 经济、社会影响及安全问题。
深度解读 AGI-Next 2026：分化、新范式、Agent 与全球 AI 竞赛的 40 条重要判断
文章总结了 AGI-Next 2026 活动上核心观点。指出模型分化是趋势，有 To B 和 To C 等场景差异；自主学习是新范式；模型即 Agent，Agent 即产品；还分析了中美 AI 竞赛的现状与挑战。
陈天桥旗下盛大AI东京研究院于SIGGRAPH Asia正式亮相，揭晓数字人和世界模型成果
在SIGGRAPH Asia 2025期间，盛大AI东京研究院首次公开亮相。当前数字人交互缺乏“灵魂”，存在长期记忆与人格一致性、多模态情感表达缺失和缺乏自主进化能力等问题。为此，研究院推出Mio框架解决挑战。
「从追赶者到引领者，路有多远？」 我们和CANN一线开发者聊了聊
AI浪潮下，硬件竞争转向软件等生态之战，华为昇腾及其CANN站在变革前沿。本文与开发者对话，探讨CANN开源意义、早期挑战、演进及未来战略，开源将带来技术透明、生态赋能等红利。
智能投顾的大模型应用，为什么选择了“大小模型协同”？
大模型时代，金融智能投顾落地是技术与业务安全的双重挑战。北银金科高级算法专家尹辰轩表示采用“大小模型协同”架构，能在性能、准确性与合规间找平衡，还阐述了架构亮点、问题解决办法等。