「预训练研究」共找到 3733 篇相关文章
数据与舆情双引擎：DeepAnalyze + BettaFish
DeepAnalyze是面向自主数据科学的大语言模型，能自动完成数据科学任务，支持完整流程、开放式研究且完全开源。还提出两项关键技术。微舆 - BettaFish是舆情分析系统，四类智能体协同工作，有六大核心优势。
分析1.8亿份招聘数据后，他告诉你AI究竟取代了哪些工作
本文分析1.8亿份全球招聘信息，发现AI不是造成大规模失业主因，影响因岗位而异。创意执行类岗位下降多，AI基建岗位增长，程序员、客服、销售较稳定，高层受冲击小，还给出评估岗位安全的建议。
单条演示即可抓取一切：北大团队突破通用抓取，适配所有灵巧手本体
在灵巧手通用抓取研究中，传统强化学习面临挑战。北大及BeingBeyond团队提出DemoGrasp框架，以一次成功抓取演示轨迹为起点，通过编辑轨迹适应不同物体与姿态，提升学习效率和真机性能，实验效果出色。
DeepSeek-OCR降本增效，10×暴力压缩还能读得清
Deepseek - OCR模型发布，通过光学压缩技术解决长文本处理的计算效率问题，能控制大模型token消耗成本。介绍了其架构设计、数据引擎及训练流程，还展示其用较少token超越现有模型的能力。
3B Image Captioning小钢炮重磅来袭，性能比肩Qwen2.5-VL-72B
文章推荐Dense Image Captioning新技术CapRL，它首次将DeepSeek - R1强化学习法用于image captioning，创新定义reward。训练的CapRL - 3B模型性能比肩Qwen2.5 - VL - 72B，解决了reward设计难题，已开源相关内容。
2025谷歌奖学金公布，37位华人上榜！Jeff Dean祝贺，清华入选最多
2025谷歌博士奖学金公布，来自35个国家、12个研究领域的155名博士生上榜，分享超1000万美元资金，入选人数创历史新高。今年有37位华人博士生入选，来自清华、北大等知名学府。谷歌DeepMind首席科学家Jeff Dean祝贺。
我是微软工程师，编程了30多年，如今我几乎不再编程了
微软资深工程师 Paul Payne 分享编程 30 多年感受，认为 AI 正颠覆软件工程领域。他所在团队研究 LLM 驱动系统，系统从程序员手中接走大量工作，Amplifier 等工具让编程变得更简单，人类程序员价值将升华。
Mamba-3惊现AI顶会ICLR 2026！CMU知名华人教授一作首代工作AI圈爆红
Transformer有力挑战者Mamba的最新版本Mamba-3进入ICLR 2026盲审。它有三大改进，在长文本处理、实时推理和成本优化有优势。此外，FBAM也从不同角度探索Transformer下一代框架。
大语言模型的解耦：人工智能基础设施的下一轮进化
人工智能模型发展快，但基础设施滞后，传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异，指出解耦架构可突破困境，还阐述其经济影响、实施策略、应用案例及未来展望。
数据蒸馏的双重突破：从几何保真到对抗鲁棒
深度学习中，数据集蒸馏可用精简合成样本替代庞大训练集且不牺牲模型性能，但面临精度和可靠性两大难题。两篇发表于 ICCV 2025 和 AAAI 2025 的论文分别给出解决方案，且代码已开源。