「AI推理加速」共找到 10974 篇相关文章
MemOS：一种用于 AI 应用的记忆操作系统
大型语言模型缺乏记忆管理系统，限制其发展。MemTensor与高校联合开源MemOS，它将记忆视为可管理资源，有三层架构，系统化三种记忆类型。评估显示其在推理、检索、加速等方面表现优异。
微信的这几个AI新功能，正在杀死朋友圈最后一点人味。
作者吐槽微信基于小微更新的AI功能，如朋友圈的AI帮写、AI点评，还有公众号的AI总结。认为这些功能破坏朋友圈人味，让社交变虚假，还冲击创作者，强调AI不能替代人与人真情实感。
AI读不懂文档结构？计算所重构Agentic RAG文档推理能力
大语言模型工具使用能力推动RAG进化，现有Agentic Search框架有“结构盲”问题。中科院计算所团队提出DeepRead，将文档结构转化为坐标系统，用两大工具协同实现类人推理，在多数据集验证效果显著。
斯坦福×英伟达发布AI推理新范式，刷新了多领域SOTA
斯坦福与英伟达联合发布论文 TTT - Discover，提出新范式，不追求通用，在推理阶段针对特定难题修改模型参数。它战绩辉煌，但成本高、是偏科生且需打分器，其出现是技术与哲学的突破。
逛完WAIC，我们发现这家芯企已经把端侧AI“场景落地”做实
7月17 - 20日，世界人工智能大会召开，端侧AI成热点。瑞芯微展台展示大模型、Agent、AI+应用，多方案已量产落地，其双轨架构优势突出，还规划了产品路线图。
在软件工程中，对 AI 的过度依赖，会加速工程师的无能
资深软件工程师Doug Slater指出，在软件工程中对大语言模型（LLM）过度依赖会加速工程师无能。LLM无法取代人类批判性思维，它在输出、输入、开发速度和用户技能等方面存在风险，且无法掌握程序理论和抵抗程序熵。
半导体2025上半年观察日记：AI还在卷，国产替代继续加速
2025年上半年半导体圈热闹非凡，AI芯片仍是主角，存储市场回血，半导体设备投资增长，国产替代重点突破，欧美政府撒钱扶持产业，台积电稳坐代工王座，日厂崛起，中国市场积极发展，汽车芯片弱复苏，出口管制倒逼国产化。
AI产品先发优势在于用户迁移成本高，持续为用户提供价值是保持竞争优势的关键 | 对话AI智能电子衣橱工具搭搭
文章围绕AI智能电子衣橱工具搭搭展开，介绍其功能、开发逻辑与发展规划。搭搭通过AI算法筛选美图定义美，提供穿搭灵感，注重用户需求。团队投入研发，获客成本低，未来聚焦工具，解决穿搭问题，与用户共建产品。
2025年如何学AI？如何用好AI？
文章围绕2025年学AI、用AI展开，作者黄益贺分享问答，涵盖学习指引、工具使用、产品赛道选择等多方面内容，如建议新手边用边学，对比不同工具功能，还分析了各模型和工具的特点与适用场景。
Hinton暴论：AI已经有意识，它自己不知道而已
在最新播客中，Hinton提出AI或许已有“意识雏形”，只是未觉醒。他从AI、机器学习、神经网络、深度学习讲起，阐述原理，还谈到AI风险，如滥用和生存风险，也提及中美AI竞赛现状。