生成式引擎优化」共找到 3486 篇相关文章

新闻资讯7

Node.js 拟内置虚拟文件系统,AI 生成代码引争议

Node.js 技术指导委员会成员 Matteo Collina 提议在 Node.js 核心新增 `node:vfs` 模块引入原生级虚拟文件系统,引发关注。功能可解决常见工作流程难题,已获部分开发者支持,但因用 AI 开发引争议。

InfoQ
开源动态8

千星项目LLMRouter:多模型路由,16+策略优化推理

UIUC开源智能模型路由框架LLMRouter,可自动为大模型应用选最优模型,有16+路由策略。该框架打通训练、评测等链路,解耦Route与Training模块,支持多轮协同等,还可插件式扩展。

新智元
算法论文7

谈一谈TP推理场景下MoE Group GEMM的优化思路

作者在使用H20测试SGLang CUTLASS MoE时,发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案,启动多个不同配置Kernel,依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。

GiantPandaLLM
推荐文章7

AI研发新范式:基于技术方案全链路生成代码

文章指出过往代码补全方式存在局限,腾讯广告审核团队探索新AI开发范式。介绍业界AWS、Lovable范式,阐述审核团队实践范式,含定义、技术选型、过程标准化等,还提及进展、困难与未来展望。

腾讯技术工程
推荐文章8

Anthropic官方解密:3招上下文优化,破解Agent性能暴跌

本文是Anthropic官方文章翻译,从提示词工程拓展到上下文工程,阐述其构建方法。介绍上下文工程对构建智能体的重要性、上下文构成,还提及上下文检索、智能体搜索及长期任务的上下文工程解决方案。

AI产品自由
推荐文章7

企业数字化转型新引擎:MCP + LLM + Agent 架构赋能!

本文介绍MCP(Model Context Protocol)模型上下文协议,它是Anthropic于2024年11月底推出的开放标准,可统一大模型与外部数据源和工具通信协议,打破数据孤岛,有诸多优势,还适用于多个场景。

MCP Server
开源动态8

NLWeb: 让每个网站都装上一个智能的“对话引擎

微软近日开源NLWeb项目,致力于简化网站构建对话式交互界面的过程。它利用现有网络生态,定义协议让用户或AI代理与网站交互,具有降低门槛、开放社区驱动等优势,目标是构建“AI Web”。

AI工程化
算法论文7

Veo何止生成视频:DeepMind正在用它模拟整个机器人世界

通用型机器人策略发展带来挑战,传统评估方法有局限,前沿视频模型虽有潜力但面临困难。Google DeepMind团队提出基于Veo的机器人策略评估系统,经实验验证有效,展示了视频仿真评估的可行路径。

机器之心
算法论文8

AEPO:智能体熵平衡策略优化,让探索更稳,推理更深!

中国人民大学与快手团队联合提出 AEPO 算法,解决熵驱动式智能体强化学习训练不稳等问题。它设计两项核心机制,在 14 个基准上优于主流算法,在 X 等平台获高关注。

机器之心
新闻资讯7

Atlas来了!ChatGPT嵌入浏览器,用谷歌的引擎,革谷歌的命

OpenAI推出ChatGPT Atlas浏览器,将ChatGPT嵌入浏览体验中心,具备智能体模式可自主执行操作,被视为对谷歌的宣战。此外,还有Perplexity的Comet、Opera的Neon及谷歌的Gemini版Chrome等参与竞争,但都基于Chromium架构。

新智元