「推理部署」共找到 2654 篇相关文章
终于不用羡慕老外了！美团竟然做出了类似V0&Bolt的AI编程神器
美团推出零代码应用生成工具NoCode，类似V0&Bolt。它功能强大，能生成复杂网页应用，支持提示词生成、自动优化、快速部署等，还自带数据库服务，免费且无需邀请，为国内Vibe Coding带来曙光。
华为中科大联创大模型低比特量化算法，1‰数据实现昇腾无损压缩7倍
华为诺亚方舟实验室联合中科大提出CBQ后训练量化方案，仅用0.1%训练数据实现大模型7倍压缩，保留99%精度。该成果登ICLR 2025 Spotlight，已加入昇腾ModelSlim工具包。
英伟达再破世界纪录，每秒1000 token！刚刚，全球最快Llama 4诞生
英伟达用Blackwell创下AI推理新纪录，单节点8颗GPU实现Llama 4 Maverick模型每秒单用户生成1000个token。这得益于技术组合拳，如用TensorRT - LLM优化、应用FP8格式等，满足了低延迟需求。
图灵奖得主杨立昆现场追问：AI 还没越过这 3 道认知墙，谈什么通用智能？
图灵奖得主杨立昆指出AI未越过三道认知墙，即看不懂物理世界、无长时记忆、无推理结构，提出JEPA架构及AMI概念，还建议别卷模型，应卷架构，如探索具身智能等领域。
人工智能驱动的科研新范式及学科应用研究
文章指出AI驱动的科研新范式通过数据、算力、算法深度耦合嵌入科研全过程，引发多方面变革。总结其特征与演化方向，分析学科应用要求与成功案例，还提出我国推动AI科研应用的启示与建议。
更聪明的AI就能随心所欲控制人类？OpenAI科学家笑了：你比猴子聪明，能让猴子听话吗？
本文是科技媒体The Information对OpenAI研究科学家Noam Brown的深度访谈，围绕AI Agent、推理模型、AI安全、OpenAI研发战略展开，披露了Hugging Face多Agent事件细节，分享了诸多反直觉的前沿技术观点，信息密度极高。
马斯克：AI巨浪已至，吸干全球救命钱！
马斯克警告AI激流已至，过去一年全球AI推理Token用量暴增25倍。ARK首席未来学家指出AI基础设施投资回报高，引发资本转移与挤出效应，传统企业融资难、人才流失，将被AI“吸干”资本。
刚刚，Kimi K3开源！3万亿模型权重全球开放
2026年7月27日，Moonshot AI开源全球首个3万亿参数级模型Kimi K3。它不仅参数量大，还在多领域表现出色，能与顶尖闭源模型媲美。其架构创新、训练独特、推理成本低，有望改变全球大模型格局。
阶跃开源JetSpec，大模型推测解码提速近10倍
随着Agent应用爆发，大模型推理效率成AI行业焦点。阶跃星辰联合多校团队开源JetSpec，该框架面向推测解码，在H100上把MATH - 500解码速度提升到9.64倍，突破了推测解码的扩展天花板。
画数独、烧蜡烛都不翻车了？浙大&阿里让AI先三思再下笔｜ACL 2026
当下视觉生成中，开源模型在逻辑推理生成任务上频频翻车，与闭源模型有差距。浙大与阿里团队提出Unified Thinker，将思考与执行解耦，构建数据集、采用创新算法，实验显示其有效提升逻辑执行准确度。