「AI推理加速」共找到 11257 篇相关文章

新闻资讯7

蚂蚁阿福:从 0 到生产的医疗 Agent 工程化落地|QCon 北京

4月16 - 18日QCon全球软件开发大会将在北京举办,聚焦Agentic AI等前沿话题,有百余落地案例。蚂蚁集团郭春晓将分享《蚂蚁阿福:从0到生产的医疗Agent工程化落地》,探讨构建技术体系等内容。

InfoQ
产品应用8

面壁MiniCPM-SALA模型,稀疏-线性注意力,单卡吞吐百万上下文

面壁智能团队提出SALA,基于此训练的MiniCPM-SALA模型,在单张A6000显卡实现百万token超长上下文推理,训练成本降约75%。它结合稀疏与线性注意力,采用混合架构,继承权重降低成本,在长文本处理上优势明显。

AIGC开放社区
开源动态8

DeepSeek深夜炸场,开源了一个新项目&论文,V4打前站?

凌晨,DeepSeek开源新项目Engram并公开论文。Engram用可扩展的O(1) N - gram记忆替Transformer早期层节省算力,在多方面实验表现出色,如推理任务增幅大于知识任务,还分析了其机理和系统效率。

PaperAgent
新闻资讯7

为Token付费是一件很愚蠢的事情,用户应该为智能付费丨RockAI刘凡平@MEET2026

RockAI创始人刘凡平在量子位MEET2026大会提出,AI下一阶段要让模型“活起来”,实现硬件觉醒。他认为为Token付费愚蠢,应关注端侧智能,突破Transformer和反向传播算法,群体智能是迈向通用人工智能新路径。

量子位
新闻资讯7

国产先进封装的协同进程,究竟走到了哪一步?

AI算力浪潮下,产业焦点从‘制程竞速’转向‘系统协同’,Chiplet与2.5D/3D先进封装成关键路径。湾芯展上,硅芯科技牵头的‘Chiplet与先进封装生态专区’让国产先进封装协同具象化,展现产业链闭环能力。

芯师爷
新闻资讯7

田渊栋被Meta卸磨杀驴,但全网疯狂发offer!OpenAI冲来抢人了

Meta裁员风暴扩散,FAIR研究科学家田渊栋等被裁。田渊栋入职十年多,成果亮眼,却在协助处理Llama 4相关事务后被裁。此外,不少刚入职的博士也遭殃。同时,Meta还用AI取代人工审核。

新智元
新闻资讯7

刚刚,Anthropic发布Sonnet 5,性能接近Opus 4.8,但不一定更便宜

Anthropic发布Claude Sonnet 5,称其为最具Agent属性的Sonnet模型。它在推理等方面性能提升,接近Opus 4.8且价格低。安全评估有改善,但网络安全逊于Opus 4.8。已正式可用,有优惠首发价。

机器之心
产品应用8

阿里发布新一代千问旗舰模型Qwen3.7-Max,登顶最佳国产模型

5月20日,阿里发布新一代千问旗舰模型Qwen3.7 - Max。近三月千问迭代三次,Qwen3.7 - Max在多测评中表现优异,位列国产模型第一。它强化编程等能力,阿里还通过MaaS等连接各环节,布局AI基础设施。

InfoQ
产品应用8

嘘,Claude正在「做梦」!睡一觉疯狂进化,一夜暴涨6倍战力

Anthropic在Code with Claude开发者大会上,给Claude托管智能体添加Dreaming功能,让其能自动回顾记忆、自我进化,还发布Outcomes和多智能体编排。法律AI公司Harvey用后任务完成率飙升约6倍。Anthropic还租下22万张GPU算力。

新智元
新闻资讯8

中科大校友,谷歌量子处理器总监 Yu Chen 揭秘Willow量子芯片背后的“秘诀”

谷歌量子AI团队宣布“Willow”量子芯片运行“量子回声”算法,实现可验证量子优势。中科大校友、谷歌量子处理器总监Yu Chen揭秘其“秘诀”,芯片关键性能指标高,让算法运行速度提升13000倍,谷歌正迈向量子计算路线图“里程碑3”。

AI寒武纪