「AI工程架构」共找到 10939 篇相关文章
FlashInfer集成TensorRT-LLM cubin kernel技术分析
文章以MoE模块为例，分析FlashInfer集成TensorRT-LLM的技术。探讨如何不依赖源码用其优化内核、动态加载管理CUBIN文件，介绍集成架构、源码集成技术、CUBIN动态加载系统等内容。
谷歌开源Gemma 3n：2G内存就能跑，100亿参数内最强多模态模型
本周五凌晨，谷歌正式发布、开源全新端侧多模态大模型 Gemma 3n。它有多模态设计、专为设备端优化等特性，核心是 MatFormer 架构，还采用了 PLE 技术等，在多方面实现质量提升。
The Batch：826 | 提高输出准确性的记忆层
通常提高大语言模型事实准确性需更大模型规模，会增加计算成本。Meta研究人员在transformer架构加可训练记忆层，可高效存储提取信息，提升计算效率，测试显示其能提升模型输出质量。
大模型系统提示词逆向（1）—— ChatGPT
文章介绍大模型系统提示词逆向原理，利用‘认知冲突’让AI意外‘泄密’。还给出逆向提示词示例，并展示了ChatGPT系统提示词原文及翻译，包含其角色设定、工具使用规则等内容。
Meta数十亿美元收购Manus背后：从江西小镇到硅谷风暴眼，肖弘的十年狂飙
本文讲述了肖弘的创业历程，从江西小镇少年成长为Meta副总裁。他经历多次创业起伏，如早期项目失败，后借壹伴、微伴等产品成功。2022 年起投身 AI，开发的 Monica、Manus 成绩斐然，最终 Manus 被 Meta 数十亿收购。
最低仅需2G显存，谷歌开源端侧模型刷新竞技场纪录，原生支持图像视频
今天凌晨，谷歌官宣Gemma 3n，原生支持多模态。它在大模型竞技场超1300分，是首个超此分数的10B以下模型。其VRAM占用低，最低2GB，已在谷歌AI Studio等可用，还公开了技术细节。
图像分词器造反了！华为 Selftok：自回归内核完美统一扩散模型，触发像素自主推理
华为盘古多模态生成团队推出 Selftok 技术，通过反向扩散将自回归先验融入视觉 token。它突破传统，实现因果 token、强化学习友好型 token 及纯 AR 大一统架构，实验在多方面表现优异，论文还入选 CVPR 2025 最佳候选。
4个月融进1亿美元、建齐3座「数据发电厂」，这家TechBio要造一个生物世界模型
原生AI TechBio公司寻明生科4个月融1亿美元，欲搭建横跨数字与生物世界的药物发现基础设施。其聚焦抗体药物设计，构建干湿实验闭环，推出AuraIDE和OpenDDE，采用“既卖引擎，也卖车”商业模式。
2026「中国 AGI 创新影响力机构 TOP 30」发布
过去一年 AI 行业变化溢出模型层，Coding Agent 铺开，视频生成实现商业变现，具身智能供应链成型。Founder Park 从四维度选出「中国 AGI 创新影响力机构 TOP 30」，涵盖多领域团队。
明略科技吴明辉：企业级Agent的“精度陷阱”与人机协同重构之路
2025 年 12 月 19 日，明略科技创始人吴明辉在 AICon 大会分享《可信 Agent 的规模化之路》。他指出企业级 Agent 存在“精度陷阱”，建议重新设计人机分工，让 AI 执行 Task，人定义目标、校验结果、审计逻辑。