「通用推理技术」共找到 5036 篇相关文章
谷歌突袭发布AI应用，无需Wi-Fi、手机就能跑大模型！网友实测两极分化
谷歌推出 Google AI Edge Gallery 应用，可在 Android 设备离线运行 AI 模型。它有本地运行、智能选模等特点，响应快且隐私性好。不过网友实测评价不一，有人认为它是旧技术包装，还被指比 Core ML 落后。
华为盘古首次露出，昇腾原生72B MoE架构，SuperCLUE千亿内模型并列国内第一
当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。
缓存不该困在一台服务器里
本文分析大模型推理阶段KV缓存的行业痛点，指出传统单机缓存孤立无法跨节点复用的问题，介绍焱融科技的分层共享缓存方案，公开了方案的实测性能数据，展现AI存储的新发展方向。
Physical Intelligence联创最新访谈：机器人尚未进入可预测的Scaling阶段
2024年末PI实验室测试，机器人表现有惊喜也有“语义上说得通的错误”。联创Levine在访谈中认为，机器人未到可预测Scaling阶段，还在确定规模化技术路径，也谈到数据、泛化、可靠性等问题。
一台工业具身机器人，从理想到现实要经过哪些坑？
在具身智能赛道，‘落地’常被滥用。聆动通用在‘工业落地’上很果决，以‘商业有闭环’和‘批量可复制’为核心指标。他们选择物流场景起步，推出LDB机器人，还面临量产和运营难题。
华为AI芯片来时的路
文章围绕华为AI芯片发展展开，提及方兴东《昇腾崛起》记录其历程。从战略觉醒到技术研发、应对制裁，华为历经曲折，如提出“韬定律”，发布多款芯片，在逆境中构建生态、拓展市场，展现强大实力与坚韧。
4.4w颗星！又一个CC Switch，几乎支持所有模型
Free CC（FCC）是本地 API 代理 + 协议转换层，能让客户端透明使用任意 OpenAI 兼容或专用上游模型，保留客户端能力。支持多提供商，架构分层、设计清晰，还有多种技术特性，文中给出安装、启动等步骤。
Ilya的第一个模型，被曝本月上线
新智元报道，投资人Gavin Baker称Ilya Sutskever创立的SSI本月将发布首个模型。他还提及持续学习等技术或影响英伟达显卡需求，且指出Claude成华尔街“克朗凯特”，带来市场共识同质化。
订单排到2027年，全球AI算力建设急需中国光纤
AI产业发展使光纤需求暴增，价格飞涨，交货期排到2027年。原因一是AI算力中心需大量光纤，二是俄乌战争消耗不少。中国光纤因长期内卷掌握技术、摊薄成本，订单已排到2028年。
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。