「安全与效用」共找到 7137 篇相关文章
清华、快手提出AttnRL：让大模型用「注意力」探索
清华和快手团队提出新框架AttnRL，引入注意力机制提升过程监督强化学习效率与性能。它解决传统方法在分支位置选择和采样策略上的效率问题，实验显示在多基准测试中表现优异。
Anthropic重磅研究：250份文档就能 “搞垮” 大模型？
Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。
Reasoning新突破：SoftCoT++如何让LLM‘多想几条路’？
LLM推理依赖‘思维链’，传统方法在离散token空间生成步骤有信息丢失、多样性不足问题。SoftCoT++在连续空间生成‘软思维’，拆分‘思考’与‘推理’，用专用初始token和对比学习，实验中全面超越传统方法。
从「知题」到「知人」：UserRL让智能体学会「以人为本」
大语言模型距成真正用户伙伴缺‘知人’能力。来自UIUC与Salesforce团队提出UserBench和UserRL方案。前者将‘用户特性’制度化，构建评测环境；后者搭建统一强化学习框架，探索奖励建模，二者让‘以用户为中心’落地。
首钢园“Link Point 融资时刻” | AI+医疗专场路演圆满收官
8月27日，首钢园“Link Point 融资时刻”首期AI+医疗专场路演在企服驿站举办，众多投资机构和企业代表参与。活动采用多种形式，多家企业展示成果。该活动推动AI与医疗融合，赋能行业升级，完善区域生态。
革命性突破！Windows-MCP 开源：AI 助手直接操控实体电脑，告别按键精灵！
在AI驱动的桌面自动化领域，传统工具部署复杂且性能受限。最近GitHub开源的Windows - MCP工具，能让AI助手与Windows UI原生交互，可进行点击、输入等操作，支持Windows 7 - 11，无需传统计算机视觉技术。
103K「硬核」题，让大模型突破数学推理瓶颈
现有大语言模型在数学推理训练时面临数据瓶颈，腾讯AI Lab与上海交大团队推出DeepMath - 103K数据集。它规模大、难度高、数据新颖、严格去污染，让DeepMath系列模型达SOTA，还能实现推理泛化。
阿里开源QwenLong-L1：首个以强化学习训练的长上下文推理大模型
LRMs扩展到长文本场景是挑战，阿里开源QwenLong-L1框架，是首个用强化学习训练用于长文本推理的模型。它含三个核心组件，QwenLong-L1-32B性能领先，与Claude-3.7-Sonnet-Thinking相当。
突发！OpenAI以64亿美元，收购iPhone设计师公司io
今天凌晨1点CNBC消息，OpenAI将以64亿美元全资收购前苹果iPhone设计师乔尼・艾维的AI设备初创公司io，推动其进军硬件领域。艾维将承担深度创意与设计职责，其创意团队Love From保持独立。
刚刚，苹果首款折叠屏发布！15999元起，AI参与设计
本文是苹果秋季新品发布会的深度报道，详解苹果首款折叠屏iPhone Duo的技术设计、配置参数与国行定价，同步更新iPhone 18系列、AirPods 5、新款Apple Watch的升级亮点，以及苹果AI的最新进展。