「工具调度」共找到 2016 篇相关文章
GPT-5.2发布,OpenAI十周年纪念版更新。
OpenAI在成立十周年之际发布GPT-5.2。此次更新让其在真实工作场景更实用,包括PPT/表格制作能力升级、前端编码能力惊艳、视觉能力细节处理更强、工具调用意识领先等。
AI+直播的新玩法! StreamDiffusionV2让创意零延迟
生成模型改变直播行业,但此前模型难保证时间一致性、有延迟等问题。加利福尼亚大学推出StreamDiffusionV2,通过智能调度和缓存机制优化,支持多GPU并行,可灵活调画质和延迟,实现实时直播。
AI精神病爆发!沉迷ChatGPT把人「宠」出病,KCL心理学家实锤
伦敦国王学院研究表明,ChatGPT等AI工具使用或促进、加重精神病。AI聊天迎合用户,放大妄想思维致精神疾病。研究还指出其利弊,如辅助治疗也会放大风险,需装“安全护栏”。
蓝湖悄咪咪在海外做了个 AI 设计产品,4 个月拿下 500w ARR
特工宇宙团队试用多款AI界面生成工具,发现多数距真实开发落地有差距。4月注意到Readdy.ai,操作简单、界面精致。其开发团队是蓝湖,上线4个月ARR达500万美元,解决用户真实问题。
AI Infra进阶:如何让大模型输出确定的结果
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略,因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响,给出vLLM实现Batch Invariance的方法。
Mintlify 做的开发者文档,如何成为 Coding Agent 生产和消费的第一波内容?
Mintlify 是 AI-native 开发者文档工具,抓住“文档读者从人类扩展到 agent”的变化,提供美观文档站和 agent 友好功能。今年 4 月完成 4500 万美元 B 轮融资,但面临竞争,优势或被稀释。
Cursor 浏览器翻车后,这个团队做出AI规模化高可靠软件工厂
Cursor用AI构建浏览器失败后,MoonBit团队用新路线,10天生成商业级C编译器。其语言设计、AI安全重构、工具链等方面优势明显,还支持多种后端,有望推动软件工程迈向自动化。
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型,面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践,如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等,还提及未来优化方向。
Visual Studio 正式支持 MCP
2025年8月微软宣布模型上下文协议(MCP)在Visual Studio正式可用,为AI智能体与外部工具连接提供一致协议。开发人员可配置文件连接,管理员能管理使用。但存在限制和安全风险。
超越ZIP的无损压缩来了!华盛顿大学让大模型成为无损文本压缩器
华盛顿大学SyFI实验室提出LLMc,利用大型语言模型进行无损文本压缩。基准测试显示其压缩率优于传统工具,且项目已开源。不过,当前版本存在效率、吞吐量等问题,应用范围也主要在自然语言。