「文档推理」共找到 2343 篇相关文章
AI秒破18世纪「天书」账本！谷歌新模型盲测刷屏全网
谷歌AI Studio上一神秘模型引发关注，它识别200多年前商人的「天书」账本，修正格式错误与模糊表述，推理能力令历史学家震惊。该模型解决手写识别和推理两大难题，或为谷歌将推的Gemini - 3。
谷歌新论文把内存股价干崩了！KV cache压缩6倍，“谷歌的DeepSeek时刻”
谷歌研究院推出TurboQuant压缩算法，可将AI推理中最吃内存的KV cache压缩至少6倍且精度零损失，还能8倍加速计算。虽引发存储芯片巨头股价下跌，但目前只是实验室成果，仅解决推理阶段内存问题。
入局AI Infra：程序员必须了解的AI系统设计与挑战知识
文章分享传统后台工程师技术栈和方法论如何迁移到AI系统，系统性拆解AI Infra的硬件、软件、训练和推理挑战，如硬件从CPU到GPU、软件依赖深度学习框架，还分析训练和推理面临的问题及解决办法。
中学生就能看懂：从零开始理解LLM内部原理【十三】｜GPT 架构如何工作 ？
本文是对GPT架构工作原理的解读。介绍了GPT与Transformer的关系，阐述其从输入文本到预测下一词概率的流水线，详述训练和推理流程，还提及GPT架构进化的混合专家（MoE）模型。
AI 设计9个月就能媲美Blackwell？OpenAI “辣芯”绕开英伟达正面战场，但老黄的GPU大盘不稳了
OpenAI 展示与博通联合打造的定制 AI 芯片 Jalapeño，性能媲美英伟达 Blackwell 或谷歌 TPU。计划年底部署，是多代芯片开发首步。它专为大模型推理设计，设计周期短，成本低，OpenAI 借此扩展全栈能力。
逆天！Mata用13个参数26字节让模型正确率从76%飙升至91%
Meta等机构研究人员发布TinyLoRA极致微调技术，配合强化学习，能在几乎不改变大模型原有结构下，用极少数参数激发其推理能力。该技术在数学推理上表现出色，还探索了参数共享策略和存储精度问题。
一键实现PPT演讲自由！「解说音频+视频」同步生成，效果逼近真人
澳大利亚与英国研究人员提出文档到演示视频生成任务，推出PresentAgent系统。它能将长文档转为带语音和同步幻灯片的视频，流程可控且适应多领域。实验显示其生成视频接近人类表现，还设计了双路径评估策略。
规范驱动开发：瀑布模型回潮
规范驱动开发（SDD）重拾编码前写大量文档理念，虽为AI编程提供框架，但可能让敏捷性被Markdown文档掩埋。文章探讨为何迭代性自然语言方法更契合现代开发需求，指出SDD存在诸多不足。
vLLM 新特性：批量大小不再影响模型输出
vLLM 推出批量不变推理功能，解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致，技术实现含三部分，虽有性能开销但换来了结果确定性。
她们估值840亿，刚发了第一个AI成果
估值超120亿美元的Thinking Machines发布首篇研究博客，由创始人、OpenAI前CTO Mira Murati宣发。研究聚焦克服大语言模型推理中的不确定性，探讨推理结果难复现的根源，还介绍解决办法并验证效果。