「AI模型推理」共找到 13620 篇相关文章
AI Infra 工程师们如何应对大模型流水线里的“暗涌”？
InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。
图灵奖得主LeCun最后警告Meta！我搞了40年AI，大模型是死路
图灵奖得主Yann LeCun预计将很快离开Meta。因Meta风向转变，LeCun失势。他投身AI研究40年，认为大语言模型是死路，世界模型才是未来，或为此离开Meta并计划创业。
比思维链准43%！逻辑脑+大模型直觉，推理可靠性大幅提升
中德研究团队发布成果，给大模型外挂「逻辑脑」，结合答案集编程与LLM，构建神经 - 符号框架，提升空间推理准确率，让AI能说清逻辑、跨任务迁移，迈向更可靠的通用推理。
别再所有人平分AI算力：顶级模型给资深工程师才省钱，新人刷题式成长已失效
在2026世界人工智能大会InfoQ直播间，滕昱和唐飞虎探讨AI Coding深层变化。他们认为AI放大资深工程师能力，冲击新人与大型软件组织，还就模型使用、判断力、企业部署等发表见解。
腾讯混元AI Infra核心技术重磅开源：推理吞吐提升30%！
腾讯混元AI Infra团队开源生产级高性能LLM推理核心算子库HPC-Ops，基于生产环境痛点开发，降低底层算子开发门槛，实现显著性能突破。在真实场景下，混元、DeepSeek模型推理QPM提升，单算子性能也超越主流算子库。
拒绝“熵崩塌”和“熵爆炸”！这项研究让大模型学会“精确探索”，推理成绩飙升
2024年以来，大模型在推理任务上进展显著，得益于RLVR方法，但面临“熵困境”。研究团队提出选择性熵正则化方法（SIREN），通过三重机制精准调控探索行为，实验证明其能提升模型推理成绩。
谷歌突袭发布AI应用，无需Wi-Fi、手机就能跑大模型！网友实测两极分化
谷歌推出 Google AI Edge Gallery 应用，可让用户在 Android 设备离线运行 AI 模型。它有响应快、隐私性好等优点，但网友实测评价不一，还有人认为它落后于苹果 CoreML。
ICML 2025 Spotlight | 多模态大模型暴露短板？EMMA基准深度揭秘多模态推理能力
最新研究推出 EMMA 基准测试，揭示顶尖多模态大语言模型在深度视觉与文本融合的复杂多模态推理上显著不足。该研究已被 ICML 2025 接收，代码数据开源。实验表明，现有模型与人类专家差距大，视觉推理是核心瓶颈。
抢天才还是拼算力？前 Llama 推理负责人详解 AI 的真实天花板
前 Llama 推理负责人 Ross Taylor 在播客访谈中指出，AI 竞赛中的混乱和挖角是噪声，最终会被指数级算力淹没。他阐释了算力指数曲线决定竞赛天花板，强调系统性实验、高质量评估的重要性。
图灵奖得主领衔，中国大模型第一梯队集结！2026智源大会，看懂AI下一程
2026年6月12 - 13日，第八届智源大会将在北京举办。多位图灵奖得主、40余位AI企业CEO等将齐聚，探讨超级模型等关键方向。大会还关注世界模型、智能体等核心方向，设25场论坛，首次实现“智能体听会”。