「训练方法升级」共找到 4015 篇相关文章
开源模型竟被用于窃取下游微调数据？清华团队揭秘开源微调范式新型隐藏安全风险
清华、墨尔本大学团队研究指出，基于开源模型微调专有模型存在新型隐藏安全风险，开源模型发布者可埋后门窃取下游微调数据，新风险难检测、危害大，目前攻防方法待改进。
RAG创新了，MCompassRAG装上了语义指南针
RAG系统存在chunk切分难题，现有方案有额外成本。MCompassRAG不切细、不rerank，给粗chunk加主题元数据当指南针，训练推理分离，实验显示信息效率提升、延迟降低。
Anthropic 研究发现：仅需少量污染文档即可对 LLM 实施投毒
Anthropic的Alignment Science团队研究大语言模型训练投毒攻击，实验发现仅250条恶意样本就能植入“后门”，且模型越大攻击越易，还对微调数据集实验，引发讨论。
算不上AGI，但Anthropic发现了Claude的潜意识！
Anthropic可解释性团队新论文在Claude内找到“意识”与“潜意识”分水岭。用J - lens读取模型“想法”，经五组实验验证其类似人类“意识通达”结构，还涉及安全审计、反事实反思训练等内容。
Pinterest 利用内容指纹技术，在数百万个域名中实现 URL 去重
Pinterest工程师开发“最小重要查询参数集”（MIQPS）URL标准化系统，用于优化大规模数据采集管道内容去重。它取代传统方法，用数据驱动判断参数重要性，还采用早期退出逻辑等提高效率。
OpenAI秘密矩阵曝光！你的所有设备，被Codex连成一台超级电脑
OpenAI将Codex升级为「超级控制平面」，可控制所有安装该应用的桌面设备，将其连成Codex网络。它有远程控制、多机上下文共享等功能，还能在锁屏时工作，但存在安全隐患。
Sand.ai重磅更新MagiAttention，正在定义分布式Attention性能新标杆
2025年4月，Sand.ai开源MagiAttention v1.0.0。如今发布v1.1.0，适配Blackwell新架构，构建原生Group Collective原语，经系统级协同优化，在多模型训练中得到实证，展现卓越性能。
这几个开源项目火起来啦，抓紧收藏哟起来！！！
本文介绍三个热门开源项目。KnowNote 是本地优先的 AI 知识笔记工具，是 Google NotebookLM 开源替代方案；Remotion 让开发者用 React 技术栈制作视频；Superpowers 可让 AI 编程助手升级为智能开发伙伴。
大模型年中报告：Anthropic 市场份额超 OpenAI，开源模型企业采用率下降
本文基于年中报告指出，当前模型API支出翻倍，企业重心转向模型推理。Anthropic市场份额超OpenAI，开源模型企业采用率下降。代码生成成热门场景，企业换模型重性能，AI支出从训练转推理。
百度搜索 10 年来最大改版，支持超千字长文本输入和 MCP 调用
7月2日，百度搜索宣布十年来最大改版，搜索框变“智能框”，支持超千字输入，集成AI写作等功能。“百看”功能、AI助手升级，接入视频生成模型MuseSteamer，还接入1.8万+MCP，提升搜索体验。