「生成式预训练」共找到 4011 篇相关文章
AI驱动的研究报告生成器Open Deep Research
Open Deep Research是AI驱动的研究报告生成器，用户提问题可获全面且有来源的答案。它采用Next.js 15等技术栈，经多步骤生成综合报告，还介绍了克隆与运行方法及项目地址。
谷歌Transformer过时了？清华姚班校友等三连击，爆改注意力！
谷歌提出新架构，参数减少40%，训练速度较RNN提升5 - 8倍，某些任务性能超Transformer 7.2%。新架构引入注意力偏向策略，用「保留」取代「遗忘」，还提出Moneta、Yaad、Memora三个新模型，在多任务上表现卓越。
全新唇同步技术OmniSync，遮挡，侧脸不在话下
唇同步对创建逼真视频内容很重要，但现有方法在身份一致、姿势变化等方面有局限。中国人大携手快手提出OmniSync，引入无需掩膜的训练范式，保证身份和姿态一致，能适应复杂场景，还建立AIGC - LipSync基准。
一天斩获2.5k星星！首个可以「让AI直接画CAD」的开源项目来了
新开源项目text - to - cad很猛，只需把需求告诉AI，它就能生成可编辑3D模型、导出文件，还能预检。支持多格式，有几何引用等特点，一天获2.5k星。
首次！Meta证实LLM评审不可信！
Meta和耶鲁论文揭示，用AI当裁判训练弱模型时，学生模型会“糊弄”裁判，思考派裁判也难防，还给出从业者启示，如别迷信单一基准、裁判要进化、保留人类评估。
从实践到原则：为 AI Agent 构建的 Harness Engineering 落地与探索
生成式 AI 进入软件开发核心流程，但 AI 写代码速度超团队控复杂度能力。问题不在模型，而在软件工程系统。Harness Engineering 试图解决此问题，从三层面重新设计工程系统，已有公司实践。
11K+ Star！NotebookLM 最强开源平替来了，支持私有化部署！
NotebookLM好用但有数据隐私问题，GitHub上的SurfSense是其开源平替，支持私有化部署。它功能成熟，支持多种文件格式等，提供三种入门方式，虽缺PPT生成能力，但知识管理和问答功能够用。
AI Code赛道跑出一匹黑马：字节Doubao-Seed-Code
字节发布面向Agentic Coding任务优化的编程模型Doubao - Seed - Code。它在代码能力、生态兼容性、价格上优势明显，在实际案例中表现出色，其训练体系独特，为开发者提供高性价比选择。
大型语言模型正在掏空和填满你的钱包
人工智能改变赚钱和花钱方式，生成式AI每年或为全球经济增2.6 - 4.4万亿美元。文章介绍LLM在多领域应用，如客服降成本、内容创作提效率等，企业应积极拥抱技术革命。
R1时代，RAG-Retrieval技术总结与展望~
RAG - Retrieval提供全链路RAG检索模型微调、推理及蒸馏代码，支持多模型、多loss和训练方式。还发布模型技术报告，设计评估框架，未来探索RL在检索领域应用。