「离线AI大模型」共找到 13706 篇相关文章
大模型如何推理？斯坦福CS25重要一课，DeepMind首席科学家主讲
Google DeepMind首席科学家Denny Zhou在斯坦福CS25课程分享大语言模型推理见解，总结了四个关键点，阐述推理机制、优化方法及最新进展，还介绍多种推理方法并比较其优劣。
从天价咨询到免费AI，夸克能改变志愿填报这门生意吗？
高考报志愿难题一直存在，天价咨询服务并非人人能享。夸克推出国内首个高考志愿大模型，免费生成志愿报告。它能理解复杂规则、把握考生需求，经多阶段训练优化，还搭载高考知识库，产品体验简便。
拆解大模型几项核心操作背后的数学与 Infra 优化逻辑
文章拆解大模型核心操作（RMSNorm、Softmax、Causal Mask、Sampling）背后的数学与Infra优化逻辑。指出Infra优化是用数学等价变换或精度妥协换硬件利用率和推理速度，还介绍各操作原理、问题及优化方法。
并行扩散架构突破极限，实现5分钟AI视频生成，「叫板」OpenAI与谷歌？
近日，CraftStory 推出 Model 2.0 视频生成系统，凭借并行扩散架构破解视频时长难题，可生成长达五分钟视频。其由 OpenCV 创建者 Victor Erukhimov 创立，此次突破或为企业带来商业价值，还计划开发新模型。
谷歌预览Code Wiki：你能信任AI来记录你的代码库吗？
谷歌预览Code Wiki，为代码库生成并更新文档，预览版含数百开源项目文档，Gemini CLI扩展将支持内部代码库。它有聊天界面，但AI生成文档缺乏权威性，开发人员看法不一，且非真正维基。
Embedding黑箱成为历史！这个新框架让模型“先解释，再学Embedding”
来自多高校研究人员推出可解释的生成式Embedding框架GRACE，解决传统文本表征模型黑箱式表征瓶颈。它重新定义对比学习信号，含三个关键模块，训练双模式统一，实验跨任务提升且不损生成能力。
人大高瓴-华为诺亚：大语言模型智能体记忆机制的系列研究
中国人民大学高瓴人工智能学院与华为诺亚方舟实验室聚焦大语言模型智能体记忆能力，形成含综述论文、数据集和工具包的研究体系。探讨记忆概念、重要性、实现与评测方法，还构建评测榜单、实现工具包。
刚刚，OpenAI官宣自研造芯，联手博通开发10吉瓦规模的AI加速器
今天凌晨，OpenAI宣布与博通战略合作，共同部署其设计的10吉瓦规模AI加速器，预计2026下半年起部署机架，2029年底完成。此次合作将减少其对英伟达GPU依赖，采用多元化算力策略。
重磅发现！大模型的「aha moment」不是装腔作势，内部信息量暴增数倍！
中国人民大学等联合团队研究发现，大模型推理有“信息脉冲”，特定步骤互信息值飙升形成“互信息峰值”，对应“思考词汇”。基于此提出无需额外训练提升推理性能的方法，代码已开源。
Claude骂声中启动「隐形水印」：新模型全量嵌入，标记所有文字
Anthropic宣布新款Claude将在生成文本中嵌入隐形水印，还会给特定文件附加数字签名元数据，全球统一施行。此前A社就用Unicode贴暗标，虽称不影响生成质量，但遭质疑。