「流式输出」共找到 342 篇相关文章
流式意图检测+永久记忆，NUS&NTU发布Pask：把贾维斯AI拉进现实
南洋理工大学谢之非团队提出Pask，采用「底层小模型流式意图检测」+「上层Agents执行」架构，实现实时、有深度、基于个人全局记忆自进化的主动智能体。它包含需求检测、长期记忆和主动系统模块，经测试效果良好。
LangChain Agent 年度报告：输出质量仍是 Agent 最大障碍，客服、研究是最快落地场景
LangChain对1300名行业人士调查，揭示AI Agent应用情况。超半数受访者已将Agent投入生产，客户服务、研究与数据分析是热门方向，但输出质量仍是落地最大障碍，成本不再是难题。
图像分层生成：新加坡国立大学和Lowart AI实现了图像可编辑的PSD文件输出
新加坡国立大学和Lowart AI发布OmniPSD，利用Diffusion Transformer架构解决分层图像生成与拆解难题，实现可编辑PSD文件输出。它能通过文本生成分层PSD文件，也能拆解单张平面图像，解决AI生成图像难编辑痛点。
微软重磅开源！22K星的 VibeVoice 再添新成员，60分钟音频 ASR 端到端统一输出！
现在的 ASR 模型处理长音频存在断章取义、说话人错乱等问题。微软开源 VibeVoice-ASR，可一次性处理 60 分钟音频，实现“三位一体”输出，补齐 VibeVoice 生态，还介绍了特点、架构、使用方法与应用场景。
将 AI 注入 Java 应用程序
文章围绕将 AI 注入 Java 应用程序展开，以宇宙飞船租赁应用的聊天机器人为例，介绍如何用 LangChain4j 和 Quarkus 等 Java 框架与大语言模型（LLM）交互，还提及流式响应、结构化输出等功能及相关概念。
别再乱学AI了！我花7天实践了张Zara的方法，从此告别焦虑
作者实践张Zara的AI学习法后告别焦虑，分享学习-实践-链接-输出的心法。包括高质量输入，如看长视频、跟随创造者、深度用产品；内化输出，如公开学习、与创造者交流、实践；还提及启动和持续输出要点及优质信息源。
AI Infra进阶：如何让大模型输出确定的结果
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略，因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响，给出vLLM实现Batch Invariance的方法。
如何让LLM的输出更有创造性和随机性？
文章指出让大模型生成随机创造性内容困难，介绍了调整温度和top_k参数等提升LLM创造性和随机性的方法，还提到min_p参数影响及外部引入随机性思路，不过LLM本质有局限，多智能体或可缓解。
Karpathy公开附议：AI Agent 的输出格式，正在从 Markdown 走向 HTML
随着 Agent 处理任务变复杂，Markdown 在长文档中可读性与排版局限凸显。HTML 能无损表达信息、支持双向交互，但生成耗时久、版本控制难。AI 研究者 Karpathy 附议，HTML 成探索方向。
首发Omni-Flow流式全模态架构，消费级显卡就能跑
面壁智能等联合发布MiniCPM-o 4.5技术报告，公开Omni-Flow流式全模态框架。该模型凭9B参数实现端到端全双工全模态，可在消费级显卡运行，还推出在线体验Demo等，性能表现佳，应用潜力大。