AI加速」共找到 9836 篇相关文章

产品应用8

腾讯混元AI Infra如何优化Hy3 Preview:一次大模型推理性能提升的技术拆解

文章聚焦腾讯混元AI Infra对Hy3 preview模型的推理性能优化。从算子优化与融合、并行策略等五大维度,剖析技术思路、算法及收益,如Attention算子单batch长文本最高加速2.95x,还提及后续显存优化等工作。

腾讯技术工程
开源动态8

让世界模型推理效率提升70倍:上海AI Lab用“恒算力”破解长时记忆与交互瓶颈

上海AI Lab联合多家机构开源Yume1.5,针对视频生成构建可交互“世界模型”的核心难题,提出时空信道联合建模(TSCM),实现近似恒定计算成本的全局记忆访问,展示了世界模型工程化落地的可行路径。

量子位
新闻资讯7

Docker 通过 Cagent 提供 AI 代理确定性测试

AI 代理系统普及,工程团队面临测试概率性输出的挑战。Docker 的 Cagent 是一种 AI 代理确定性测试方法,采用 proxy - and - cassette 模型,虽处早期,但揭示了 AI 代理测试的不同方向。

InfoQ
推荐文章8

Anthropic曝光自家整套,AI原生研发手册

Anthropic 在官方博客发布两篇内部实践文章,《The AI-Native SDLC Playbook》讲 AI 承担多数编码工作时软件流程安排,《How Anthropic secures its AI-native software development lifecycle》谈流程自动化后安全体系建设。

CourseAI
新闻资讯7

国产算力解决方案,如何赋能“AI for Science”?

AI已成驱动科研范式变革的核心力量,“AI for Science”成趋势。中科院陈刚分享AI赋能高能物理见解,还谈及国产算力方案应用表现,22家机构企业发起“科学智能联合攻关行动”。

芯师爷
算法论文7

Anthropic 新研究:AI出错是“热混乱”

Anthropic研究团队发现AI可能无一致目标,只是瞎搞。他们将AI错误分类,测试发现推理越久越混乱,大模型复杂任务易失控。此发现改变对AI风险的认知,论文已在arXiv发布。

AI工程化
新闻资讯7

微软强塞AI暴涨价!小哥惨遭Office全家桶绑架,每月含泪打钱一次未用

最新调查称仅8%的人愿为AI买单,科技巨头却将AI硬塞进日常软件。外国小哥Ted Gioia吐槽被微软AI全家桶绑架,付费却未用。巨头此举或为掩盖亏损,Meta还计划激进推AI,而ChatGPT将上线新功能。

新智元
推荐文章7

GitHub告诉你,开发者真正需要的AI是什么

GitHub高级产品经理与开发者布道师交流发现,开发者想要更顺畅、少打断的创造过程。优秀AI编码工具应守护专注力、减少对话框干扰、赋予开发者掌控权,适应不同阶段开发者需求。

AIGC开放社区
推荐文章8

A16z: AI 产品的护城河在哪里?

a16z新博文结合与创始人沟通,总结AI公司突围成长关键点。指出演示易、产品难,AI初创增长快,开发成本降,速度很重要,还介绍了AI公司建立护城河的方式,认为当下是创业者好时机。

AI工程化
开源动态8

AI 万能插座(网关)

AxonHub 是 All - in - one AI 开发平台,有统一 API 网关等功能。具备统一 API、追踪等核心特性,支持多种 API 类型和格式,介绍了不同部署与使用方法。

GitHubStore