搜索：流式文本输入

「流式文本输入」共找到 705 篇相关文章

MSRA首测AI从零建仓库：能写、能跑，但不一定对丨ACL'26

微软亚洲研究院工作RepoGenesis被ACL 2026高分录用，它是面向多语言、仓库级、端到端Web微服务生成的基准。输入贴近实际，用多维度评测开源Agent和商业IDE，还拓展模型微调。但也有边界，未模拟真实复杂需求。

大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。

当前大模型推理顶尖但精确计算不足，Percepta团队在Transformer权重里内嵌可执行程序，通过2维注意力头设计提升推理效率，能在普通CPU上实现每秒3万+Token的流式输出，还精确求解了世界最难数独。

谷歌推出Gemini 3.1 Flash-Lite，号称性价比最高的Gemini 3系列模型，每百万输入token仅0.25美元，读完3本《三体》只需1.8元。性能表现佳，还支持可调思考层级。两小时后ChatGPT推出GPT - 5.3 Instant回应。

AI时代搜索与传统搜索大不同，人类搜索是静态检索，AI搜索是动态、流式、可追问的。小宿科技作为AI Agent基础设施提供商，分享了为Agent提供搜索服务的经验，包括不同场景下AI应用接入搜索的难点与解决方案。

预训练大型文本到图像扩散模型定制化时，样本有限易致过拟合。AIRI和HSE大学团队提出T - LoRA框架，动态调整训练能力、用正交初始化，实验显示其在单图像和多图像任务表现优，用户更偏好其生成图像。

火山引擎发布豆包·播客模型，生成的AI对话语气、停顿等像真人。操作简单，生成快且有字幕。能处理多种类型内容，如热搜话题、苏超联赛、超长文本等。其基于端到端实时语音模型，有技术突破。

德国AI初创平台SpAItial获1300万美元种子轮融资，发布超逼真3D基础模型。其核心技术能理解3D世界，可基于文本或图片生成3D场景，在多领域有革新可能，虽有竞争，但未来有望推动AI三维突破。

图像推理现新难题，在Reddit引发热议，目前无AI能真正解决。国内外支持图像输入的大模型答案不同，原因是对大立方体规格理解不同。结合提示多次尝试，部分大模型能找准方向，人类面对该问题也会困惑。

当前AI编码工具默认读取整个项目文件，token消耗高。code-review-graph项目用Tree-sitter解析代码库成图，追踪改动“爆炸半径”，平均省8.2倍token，技术轻量，还能做社区检测。它揭示AI编码瓶颈在信息输入质量。