「AI推理系统」共找到 11552 篇相关文章
深度洞察：AI带来的产业发展趋势
文章指出AI正以极快速度改变世界，趋势已成。探讨软件业从以应用为中心到以模型为中心的变革，还将阐述从以应用为入口到以AI为入口、AI巨头发展方向及未来展望等内容。
GitHub爆款神器 | IOPaint：21.7k star 开源AI图像修复项目，竟能秒删水印、拓展画幅！
IOPaint 是 Sanster 团队出品的开源图像处理工具，集 SOTA AI 模型于一体，支持图像擦除、对象替换等功能，还支持多平台部署，能解决旅游照、电商图等处理痛点。
人类记忆 vs 大模型记忆，到底差在哪？
这篇发表于 2025 年 10 月《Trends in Cognitive Sciences》的文章，探讨用人类“情景记忆”研究成果改进记忆增强型大语言模型。指出现有 AI 记忆系统存用数据低效，呼吁构建“类人情景记忆”AI，还剖析差异并给出评估方法和展望。
图灵奖得主杨立昆现场追问：AI 还没越过这 3 道认知墙，谈什么通用智能？
图灵奖得主杨立昆指出AI未越过三道认知墙，即看不懂物理世界、无长时记忆、无推理结构，提出JEPA架构及AMI概念，还建议别卷模型，应卷架构，如探索具身智能等领域。
亿级日活App的“算力生死劫”：推理成本倒挂，他们靠跨云架构砍掉75% GPU集群
一家AI穿搭+购物推荐的出海应用DAU破亿，但算力和传输成本高，ARPU远低于成本。该企业转向Akamai推理云，换用RTX PRO 6000，缩减服务器集群，降低成本，采用跨云架构过渡，实现零阵痛平替。
【博客翻译】使用PyTorch加速生成式AI第四部分：Seamless M4T，快速优化
这是使用纯原生PyTorch加速生成式AI模型系列博客的第四部分，专注加速FAIR的Seamless M4T - v2模型。通过torch.compile + CUDA Graph，在不损失精度下实现text decoder模块2倍、vocoder模块30倍加速，端到端推理2.7倍加速。
英伟达官方推理指南来了！6倍无损加速，最优解全是华人写的
9月2日，英伟达技术博客上线《用投机解码做AI模型协同设计》，给出推理加速选型表。列入指南的核心方案多由华人团队主导，介绍了从外置草稿模型到n - gram查表法等方案，还提到硬件常数对模型架构的约束。
通用Agent是伪命题？昆仑万维方汉现场拆解：垂直推理才是胜负手｜新智元十年峰会
在新智元十周年峰会上，昆仑万维董事长方汉分享公司转型故事与多模态AGI见解。他认为通用Agent非万能，垂类推理数据是关键，还提出AI商业落地逻辑，展示多款产品成果。
GPT-5内测抢先公布：日常推理首次击败人类，编程数学科学问题能力都很强
疑似GPT - 5发布预告刚出，内测体验抢先释出。网友实测其推理能力首超人类，编程、数学等能力也出色，虽提升或没GPT - 3到GPT - 4明显，但市场竞争激烈，8月8日凌晨OpenAI发布或为GPT - 5。
GPT-6 真要来了！OpenAI全新推理架构“循环深度”首次曝光：可榨出14倍参数潜能
OpenAI将推旗舰模型GPT - 6（内部代号Astra），采用“循环深度”新技术，能榨出14倍参数潜能，降低成本，但会使AI推理过程不可读，加重安全担忧。OpenAI已因该模型“能力过强”踩刹车。