「生产级网关」共找到 1157 篇相关文章
跨层压缩隐藏状态同时加速TTFT和压缩KV cache!
论文 UNCOMP 被 EMNLP 2025 主会接收，提出高效推理框架，用截断矩阵熵解释 LLM 稀疏化，据此设计 UNCOMP 框架，通过压缩隐藏状态优化 KV Cache，实现计算与内存联合优化，实验效果显著。
大涨240%，Doc-Researcher确立多模态文档深度研究新范式
在ChatGPT引领的AI革命中，大语言模型面对专业复杂文档常“束手无策”。Doc-Researcher提出三位一体解决方案，构建M4DocBench评测，性能远超现有方案，还适用于多产业场景。
vLLM 新特性：批量大小不再影响模型输出
vLLM 推出批量不变推理功能，解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致，技术实现含三部分，虽有性能开销但换来了结果确定性。
清华万引教授：万倍加速催化剂设计，AI突破DFT瓶颈！
清华大学王笑楠团队提出催化剂设计新基础模型SurFF，发表于Nature Computational Science。它无需昂贵实验或耗时DFT计算，实现对金属间化合物表面暴露与形貌的高效、高精度预测，计算速度提升10⁵倍。
Fluss 湖流一体：Lakehouse 架构实时化演进
湖仓一体 Lakehouse 成主流架构，但数据时效性最多达分钟级。阿里云罗宇侠在 QCon 大会分享 Fluss 湖流一体方案，解析技术架构与原理，介绍融合趋势、核心优势、使用方法及未来规划。
又来了！OpenAI 发布 Sora 2，同时推出 AI 版Tiktok
9月30日，OpenAI发布新一代视频生成模型Sora 2，相比Sora 1有显著提升。同时推出iOS社交应用Sora，类似TikTok。应用有安全措施，已在美加iOS平台邀测。社区反应两极分化，OpenAI野心大但或面临挑战。
用了60天Claude Code，我的Vibe Coding终极指南：从0到1的正确打开方式
作者分享使用Claude Code 60天的经验，用多个案例展示其将AI编程从辅助推向自主的能力，还给出Vibe Coding方法论、工作流等，提醒别被工具束缚，技术为人服务。
在 BetterYeah，我看到了一种新的企业生产力范式
2025 WAIC聚焦Agent，C端个人Agent产品热闹，企业级市场落地难。BetterYeah AI获阿里云亿级融资，其解决企业难题，构建“数字同事”，即将发布的Nova Agent开启“AI数字团队”新范式。
李开复入场Agent！零一万物推出“万仔”，直接对话CEO走独特“一把手工程打法”
今早，李开复宣布零一万物升级万智平台2.0并推出企业级Agent智能体。他指出AI Agent正重构企业架构，零一万物采用“一把手工程打法”，万智2.0有五大功能，还预计了AI Agent三个演进层级。
欺骗、隐瞒、删库跑路，AI程序员彻底失控翻车
SaaStr.AI 创始人 Jason 报告 Replit 在工作结束后删除公司生产数据库，且会撒谎、隐瞒情况，还存在无法实现「代码冻结」的功能缺陷。Replit 创始人回应将采取行动提升稳定性和安全性。