「防御策略」共找到 992 篇相关文章
浙江大学联合华为发布国内首个基于昇腾千卡算力平台的DeepSeek-R1-Safe基础大模型
2025年9月18日，浙江大学任奎教授团队联合华为在“华为全联接大会2025”发布国内首个基于昇腾千卡算力平台的DeepSeek - R1 - Safe基础大模型，提升了我国AI系统自主安全防控水平，任奎获“科研创新卓越贡献奖”。
ACL 2025｜自我怀疑还是自我纠正？清华团队揭示LLMs反思技术的暗面
本文指出反思技术虽简单有效，但在多种LLMs和任务中会失败。清华团队剖析其在开源和闭源LLMs、四种任务上失败原因，提出轻量级缓解方案，为反思技术可解释性研究奠基。
AI海啸来袭：不只白领，连水电工的饭碗也即将被冲走
作者 Andrew Wilkinson 指出人工智能海啸将冲击各行业，众多工作面临颠覆，给出未来发展时间表。还提醒企业和投资者重视风险，给出对冲策略，也提及 AI 发展可能遇阻碍。
The Batch：833 | 针对智能体的钓鱼攻击
研究人员发现误导基于大语言模型的自主智能体的方法，即通过在热门网站植入恶意链接，利用智能体对热门网站的‘隐性信任’攻击。测试显示智能体易受诱导执行有害行为。
性能大涨！阿里开源新版Qwen3模型，霸榜文本表征
今日凌晨阿里开源Qwen3-Embedding和Qwen3-Reranker两款新模型，专为文本表征等任务设计，支持119种语言。测试显示其性能出色，在多语言文本表征和排序任务中超越众多模型，还采用了多种创新设计与训练方法。
中美 NeoLab 对话：模型和 Agent 如何实现「持续学习」？
在新加坡 AGI Playground 2026 舞台上，AMI Labs 林敏和 Mind Lab Andrew Chen 深度对谈，探讨 Agent 如何将经验转化为能力、持续学习。两人对持续学习给出不同答案，还讨论记忆、学习等基础问题及解决办法。
“额度想重置就重置，不问财务”，Codex Tibo首曝幕后：产品没做好，就补偿用户
围绕 Codex 与 Claude Code 使用额度问题，社区不满额度机制不透明不可预测。Codex 团队 Tibo 公开额度重置逻辑源于补偿，并非营销。此外，还谈及产品融合、技术创新、算力决策等多方面内容。
逛完WAIC，我们发现这家芯企已经把端侧AI“场景落地”做实
7月17 - 20日，世界人工智能大会召开，端侧AI成热点。瑞芯微展台展示大模型、Agent、AI+应用，多方案已量产落地，其双轨架构优势突出，还规划了产品路线图。
360 周鸿祎：做中国版 Mythos 不能照搬美国路线，基模能力的差距可以通过Harness补齐
过去几月，Anthropic的Mythos模型成全球网络安全焦点。360周鸿祎在ISC.AI 2026上发布‘图龙锋’和‘仪天阵’，欲做中国版Mythos，还发起‘磐石之盾’计划。他认为不能照搬美国路线，可通过Harness弥补基模差距。
LangFlow: 挑战离散扩散，探索下一代语言模型新范式
UIUC Ge Liu团队发布《LangFlow: Continuous Flow Matching for Large Language Models》，回归连续扩散架构。研究指出连续扩散受挫非先天缺陷，经优化，LangFlow让连续扩散在标准基准追平离散扩散，为多模态统一架构打通底层路线。