「安全升级」共找到 1656 篇相关文章
2025甲子Cool Vendor人形机器人大模型领域报告 | 甲子光年智库
甲子光年智库发布《2025甲子cool vendor人形机器人大模型领域报告》。当前人形机器人产业迎来关键转折点，产业链层级完整，大模型解决落地难题，应用场景升级。报告还呈现了产业链现状与趋势。
一篇92页大模型Vibe Coding技术全面综述
中科院计算所&杜克大学发布首篇Vide Coding技术全面综述。介绍以“氛围/结果”为导向的Vibe Coding开发范式，含技术分类、能力分析、开发模式、数据模型等内容，还提及价值及反馈回路等。
AIME'25满分炸场！Qwen一波七连发，全家桶大更新
云栖大会上，通义团队成果丰硕。Qwen3-Max性能提升，数学评测满分，多测试成绩优异；Qwen3-VL、Qwen3-Omni等开源，各有亮点；Qwen3-Coder升级。吴泳铭称要发展超级人工智能。
Github 1.8K star厉害！！有了这个办公AI神器，效率飙升！
Speakr是完全自托管的AI会议助手，能将音频转文字、生成摘要、进行内容问答，离线运行保障隐私和安全。它功能丰富且轻巧，支持多平台，GitHub已破1.8K star。
阿里开源Mobile-Agent-v3：多模态GUI智能体，实现跨平台自动化突破！
全新自动化时代，GUI智能体融入日常。阿里巴巴通义实验室推出GUI - Owl与Mobile - Agent - v3，实现跨平台自动化突破。文章解析其发展历程、技术创新，且项目开源，商业化潜力引关注。
推理能力再突破！蚂蚁 | 提出Agentic Deep Research新范式，可信度同步增加
尽管LLM能力提升，但复杂任务表现受静态知识限制。业界提出Agentic Deep Research系统，现存系统训练有梯度冲突和奖励稀疏问题。蚂蚁团队提出Atom - Searcher，创新推理范式，构建细粒度奖励，结合奖励训练，实验效果佳。
刚刚，Anthropic推出Claude Chrome插件，仅限1000人
Anthropic发布Claude for Chrome扩展，让Claude能在浏览器操作，仅向1000名Max计划用户开放预览。虽功能强大，但面临提示注入攻击风险。不过Anthropic有多层防护，降低了攻击成功率，并给出用户安全建议。
ChatGPT到底学了多少「污言秽语」？清华团队首提大语言模型中文语料污染治理技术
清华等团队研究发现，先进ChatGPT系列模型中文词表污染达46.6%，含色情、赌博等词元。团队定义分类中文污染词，构建识别模型，还能由词表污染估计数据污染，为语料治理提供方案。
xAI联合创始人出走：连马斯克都留不住顶级人才
伊戈尔·巴布什金这位效力过DeepMind和OpenAI的AI老将，助马斯克建成孟菲斯超算集群后离开xAI，创办风投公司“Babuschkin Ventures”，瞄准AI安全赛道，揭示AI行业顶尖人才的追求。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。