Flink架构优化」共找到 2837 篇相关文章

新闻资讯7

OpenAI:我们正朝着什么方向优化 ChatGPT?

OpenAI 官网文章称,ChatGPT 发展方向是成‘对你有用’的工具,不追逐 DAU 或让用户沉迷。它介绍了有用的使用场景,还提及健康使用方面的改进及与专家合作提升响应能力等内容。

特工宇宙
新闻资讯8

Anthropic 推出首个官方认证:Claude 架构

Anthropic推出首个官方技术认证Claude Certified Architect, Foundations(CCA - F),考试涵盖五个核心领域,有6个实战场景,目前仅对合作伙伴员工开放,还推出了完整备考课程体系。

AGI Hunt
新闻资讯7

库克不忍了!挥刀优化苹果AI大总管

苹果官宣AI负责人John Giannandrea卸任,其领导下苹果AI团队落后同行,新版Siri推迟发布。同时,苹果从微软挖来Amar Subramanya出任AI副总裁。此外,苹果机器人技术负责人Yilun Chen跳槽特斯拉,军心涣散。

量子位
产品应用8

Harness Engineering: C 端 AIGC 内容生产自优化实践

文章介绍蚂蚁保保险快查深度解读页面生成系统(DIPG),它将Harness思想用于C端AIGC生产链路。DIPG采用‘离线生成+校验+刷入DB’模式,解决LLM实时生成时延和质量问题,还阐述多Agent协作、校验机制及回灌流程等。

阿里云开发者
新闻资讯8

AI基础架构重大突破,计算成本暴降38倍

Perforated AI团队搞出‘穿孔反向传播’技术,给旧神经元加‘人工树突’。测试中计算成本最高降38倍,模型准确率不降反升,还近乎即插即用。这或引发行业变革,但也面临验证、生态和收费等挑战。

AIGC开放社区
新闻资讯7

Kimi K2里找到了DeepSeek V3架构

Kimi新模型K2热度高,在多benchmark上达SOTA,网友好评多。Kimi工程师透露K2开源原因,还谈及Kimi发展策略。实测显示K2在前端制作、工具调用、创意写作上表现出色。此外,OpenAI开源模型推迟,引发猜测。

量子位
开源动态8

千星项目LLMRouter:多模型路由,16+策略优化推理

UIUC开源智能模型路由框架LLMRouter,可自动为大模型应用选最优模型,有16+路由策略。该框架打通训练、评测等链路,解耦Route与Training模块,支持多轮协同等,还可插件式扩展。

新智元
产品应用7

3D-AIGC 存储架构演进:从 NFS、Gluster 到 JuiceFS

光影焕像在 3D-AIGC 存储上,因三维模型数据量大、格式多,对存储要求高。经探索,从 NFS、GlusterFS 到最终选 JuiceFS,搭建统一存储平台,管理上亿文件,提升处理速度,简化运维。

InfoQ
算法论文7

谈一谈TP推理场景下MoE Group GEMM的优化思路

作者在使用H20测试SGLang CUTLASS MoE时,发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案,启动多个不同配置Kernel,依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。

GiantPandaLLM
推荐文章8

Anthropic官方解密:3招上下文优化,破解Agent性能暴跌

本文是Anthropic官方文章翻译,从提示词工程拓展到上下文工程,阐述其构建方法。介绍上下文工程对构建智能体的重要性、上下文构成,还提及上下文检索、智能体搜索及长期任务的上下文工程解决方案。

AI产品自由