「安全挑战」共找到 1909 篇相关文章
分析1.8亿份招聘数据后，他告诉你AI究竟取代了哪些工作
本文分析1.8亿份全球招聘信息，发现AI不是造成大规模失业主因，影响因岗位而异。创意执行类岗位下降多，AI基建岗位增长，程序员、客服、销售较稳定，高层受冲击小，还给出评估岗位安全的建议。
AI 正在奖励那些「最不专业」的人
文章以AI能力为上涨的潮水、个人专业技能为柱子作比，指出AI先替代简单重复工作，再逐级挑战复杂工作。高精尖专家因专业技能高难，难见AI价值；创业者则受益于AI对琐碎事务的处理。
达摩院推出多智能体框架ReasonMed，打造医学推理数据生成新范式
在人工智能领域，推理语言模型在医学场景应用存在挑战，达摩院推出多智能体框架ReasonMed，提出医学推理数据生成新范式，开源百万级高质量数据集ReasonMed370K，验证了‘小模型 + 高质量数据’的潜力。
理解规范驱动开发：Kiro、spec-kit和Tessl
作者尝试理解规范驱动开发（SDD），查看了 Kiro、spec - kit 和 Tessl 三个自称 SDD 的工具。介绍了 SDD 定义、规范含义，分析评估工具的挑战，还指出工具存在不适合多数编程问题、审查体验差等问题。
单条演示即可抓取一切：北大团队突破通用抓取，适配所有灵巧手本体
在灵巧手通用抓取研究中，传统强化学习面临挑战。北大及BeingBeyond团队提出DemoGrasp框架，以一次成功抓取演示轨迹为起点，通过编辑轨迹适应不同物体与姿态，提升学习效率和真机性能，实验效果出色。
可攻可防，越狱成功率近90%！六大主流模型全中招 | EMNLP'25
研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。
Mamba-3惊现AI顶会ICLR 2026！CMU知名华人教授一作首代工作AI圈爆红
Transformer有力挑战者Mamba的最新版本Mamba-3进入ICLR 2026盲审。它有三大改进，在长文本处理、实时推理和成本优化有优势。此外，FBAM也从不同角度探索Transformer下一代框架。
RAG 进化之路（祛魅 Agentic RAG）：传统 RAG 到工具与强化学习双轮驱动的 Agentic RAG
文章旨在祛魅 Agentic RAG，先介绍传统 RAG 的离线入库和在线应用，指出其不足。再阐述 Agentic RAG 让 LLM 自主决策，结合工具执行循环。还介绍基于提示词和强化学习的实现方式，最后总结不同 RAG 的优劣。
一周10来个模型被开源，阿里Qwen杀疯了~
阿里通义千问这周开源众多模型，如Qwen3 - Omni、Qwen - Image - Edit等，涉及全模态、图像编辑、安全审核等多领域。各模型能力出色，如Qwen3 - Omni能处理多模态输入，Qwen3 - VL表现超部分闭源模型。
AI基础架构重大突破，计算成本暴降38倍
Perforated AI团队搞出‘穿孔反向传播’技术，给旧神经元加‘人工树突’。测试中计算成本最高降38倍，模型准确率不降反升，还近乎即插即用。这或引发行业变革，但也面临验证、生态和收费等挑战。