搜索：自监督预训练

「自监督预训练」共找到 3067 篇相关文章

Alibaba开源WebDancer解决DeepResearch复杂信息检索难题

Alibaba开源WebDancer，从数据和训练阶段出发提出端到端自主信息检索代理构建范式。实验中，它在GAIA和WebWalkerQA基准测试表现出色，处理复杂信息检索优势显著。

Cloudflare发布全新基础设施，可在全球边缘网络运行大型AI大语言模型。它将模型输入处理与输出生成拆分，自研Infire推理引擎，还推出Unweight模型压缩系统，分享提示词缓存优化方案。

在Lex Fridman的专访中，黄仁勋抛出诸多惊人观点，如称已实现AGI，反驳Ilya“预训练触顶”言论，认为推理计算难且重要，还对未来技术、行业、职业发展等多方面进行展望。

宁波东方理工大学沈晓宇团队在ICLR 2026发表论文，指出当前工具检索瓶颈在于工具文档。提出对文档结构化扩展，再训练模型的方案，构建TOOL - REX等组件，实验显示显著提升检索性能。

当前GPT - 4o、DeepSeek - R1等大模型推理的‘高级操作’随机触发，不可控。研究者受经典推理三要素启发，教会模型三种‘元能力’，经三阶段训练，模型效果提升，让推理能力可控。

九章云极在2026全球智算科技峰会发布AI工厂战略，含训练和Token工厂，目标10万P算力、日产10万亿Token。用DCU度量投入，Token度量产出，重构智能生产与交付体系，适配不同企业需求。

近日，神秘模型 HappyHorse-1.0 登顶 Artificial Analysis 视频模型排行榜。阿里巴巴确认其为 ATH-AI 创新事业部自研产品，正在内测，4 月 30 日上线 API。该模型技术亮点多，若开源或改变 AI 视频行业格局。

OpenCLI是开源的AI原生命令行工具，能把网站或Electron应用变命令行接口，复用Chrome登录状态，安全性高。支持19个主流平台，有自修复配置等亮点，还介绍了安装、使用、诊断及下载方法。

阿里巴巴CEO吴泳铭批准林俊旸辞职，周靖人接管千问。此次人事变动突然，引发诸多猜测。阿里高层称是为扩充团队、投入资源。Gemini 3.0核心贡献者周浩据传将主导千问后训练。

文章从传统思路实现诗词生成器入手，介绍了词汇表、Bigram模型等概念，接着用Python和PyTorch实现了真正的Bigram模型，阐述模型、训练等内容，最后回顾成果，下一篇将基于此实现完整GPT。