「流式输出」共找到 367 篇相关文章
AI根本守不住秘密！不依靠大模型的输出过滤才是铜墙铁壁
开发者常把秘密放系统提示词，以为安全。Swept AI和密西根大学团队测试发现，攻击者不断尝试，AI会泄露秘密。多种依赖大模型的防御方案失败，只有输出过滤能零泄露。
“美国大豆包”Gemini翻身：输出速度碾压同行、智能水平重回第一梯队
过去 Gemini 被吐槽，如今 Google 推出 Gemini 3.8 Flash，六周内第三款 Flash、四个月内第四次更新。新模型成绩佳，输出快，成本低，智能体评测进步大，从经济型选项成生产主力，但实际表现待检验。
流式意图检测+永久记忆，NUS&NTU发布Pask：把贾维斯AI拉进现实
南洋理工大学谢之非团队提出Pask，采用「底层小模型流式意图检测」+「上层Agents执行」架构，实现实时、有深度、基于个人全局记忆自进化的主动智能体。它包含需求检测、长期记忆和主动系统模块，经测试效果良好。
LangChain Agent 年度报告：输出质量仍是 Agent 最大障碍，客服、研究是最快落地场景
LangChain对1300名行业人士调查，揭示AI Agent应用情况。超半数受访者已将Agent投入生产，客户服务、研究与数据分析是热门方向，但输出质量仍是落地最大障碍，成本不再是难题。
图像分层生成：新加坡国立大学和Lowart AI实现了图像可编辑的PSD文件输出
新加坡国立大学和Lowart AI发布OmniPSD，利用Diffusion Transformer架构解决分层图像生成与拆解难题，实现可编辑PSD文件输出。它能通过文本生成分层PSD文件，也能拆解单张平面图像，解决AI生成图像难编辑痛点。
微软重磅开源！22K星的 VibeVoice 再添新成员，60分钟音频 ASR 端到端统一输出！
现在的 ASR 模型处理长音频存在断章取义、说话人错乱等问题。微软开源 VibeVoice-ASR，可一次性处理 60 分钟音频，实现“三位一体”输出，补齐 VibeVoice 生态，还介绍了特点、架构、使用方法与应用场景。
做出ChatGPT核心研究的人今天掀桌：大模型搞不定自动化，新架构提速200倍且输出免费
前OpenAI ChatGPT核心研究员Diogo Almeida，研发两年推出专为业务自动化设计的全新模型Jev，新架构速度比传统大模型提升最高200倍，输出免费，从底层根除类型错误与幻觉，成本远低于主流大模型，已开放早期预览申请。
将 AI 注入 Java 应用程序
文章围绕将 AI 注入 Java 应用程序展开，以宇宙飞船租赁应用的聊天机器人为例，介绍如何用 LangChain4j 和 Quarkus 等 Java 框架与大语言模型（LLM）交互，还提及流式响应、结构化输出等功能及相关概念。
别再乱学AI了！我花7天实践了张Zara的方法，从此告别焦虑
作者实践张Zara的AI学习法后告别焦虑，分享学习-实践-链接-输出的心法。包括高质量输入，如看长视频、跟随创造者、深度用产品；内化输出，如公开学习、与创造者交流、实践；还提及启动和持续输出要点及优质信息源。
AI Infra进阶：如何让大模型输出确定的结果
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略，因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响，给出vLLM实现Batch Invariance的方法。