「自监督预训练」共找到 3081 篇相关文章
Linear-MoE：线性注意力遇上混合专家的开源实践
近年来，线性序列建模和混合专家（MoE）研究进步大，但两者结合研究少，相关开源实现缺失。上海人工智能实验室团队的 Linear - MoE 首次实现两者高效结合并开源技术框架，实验验证其有诸多优势。
13K star！这个项目太顶了，自动化 API，后台作业，工作流，UI开发，低代码一网打尽！
日常开发构建和管理内部工具费时费力，第三方方案费用高。开源项目Windmill是开发者福音，能将脚本自动转换成工作流程和UI，适用多场景，有自动UI生成等特色，安装使用简单。
ICML 2025 Spotlight｜南洋理工陶大程教授团队等提出基于RAG的高分辨率图像感知框架，准确率提高20%
南洋理工陶大程教授团队等合作，为解决多模态大语言模型处理高分辨率图像问题，探索 RAG 应用可行性，提出 Retrieval-Augmented Perception (RAP) 框架，在多任务上提升性能，已被 ICML 2025 接收。
每天上线一个新系统，这款腾讯自用低代码有什么不同
腾讯自用低代码平台无极，平均每天上线1.2个新系统，用户覆盖1/3员工。它去模板化，从数据结构设计开始，数据推导UI，有灵活编辑器，支持渐进式开发，具备集成性和开放性，还有AI赋能。
The Batch: 973｜Claude 的水印如何运作
Anthropic将在2026年8月2日后发布的Claude模型全球部署肉眼不可见、机器可读的水印，用于表明文本和图像由其生成。该技术基于Google的SynthID - Text，不过此公告引发广泛争议。
都标5美元，账单差三成！OpenAI高管：token从来没法直接比价
OpenAI Codex负责人Tibo指出，不同模型对同一段文字切分的token数不同，即便单token价格相同，最终账单也可能差异很大。他还提到，token无统一计量标准，跨厂商和新旧模型计数都难通用，真正重要的是每次成功结果的成本。
给机器人一个会预测未来的Critic，VLA强化学习直接起飞
OpenMOSS团队开源的World Critic Model（WCM），解决了视觉 - 语言 - 动作模型强化学习（VLA - RL）中批评家模型（Critic Model）仅依赖单帧观测打分的问题。WCM让Critic学习预测执行动作后的潜在状态，代码等全开源，验证效果显著。
Claude 上线隐形水印
从上周起，Anthropic 在 Claude 模型所有文本输出中嵌入隐形水印。该水印在文本生成时织入文字，复制粘贴也保留，编辑修改可能仍在。标记机制分文本水印和文件元数据两层，全球生效。
CUDA 20年护城河一个周末崩了 ！Claude独自跑通AMD新GPU
一个周末，Claude直接把自家最前沿模型跑在全新AMD MI355X机架，人类工程师没改一行代码。AMD还给AI开发调GPU的工具，ROCm.AI可让Agent自己部署操作。Agent补生态积累短板，对CUDA生态形成降维打击。
Anthropic发布Claude Science，AI开始像研二学生一样做科研
当地时间6月30日，Anthropic发布科研产品Claude Science。它运行Claude Opus 4.8，亮点在使用方式，将科研所需整合，还能拆分任务。早期用户反馈良好，与OpenAI、谷歌竞争，已开放测试版。