推理模式」共找到 2852 篇相关文章

产品应用8

这个 AI 产品,给了我久违的惊喜。

作者曾探讨为何此前无出圈客服 Agent 产品,认为做 Demo 易,生产环境可用门槛高。本周阿里瓴羊团队发布企业级客服 Agent,它能处理退款、补发等流程,采用人机分工模式,务实靠谱,有望改善客服行业现状。

MacTalk
产品应用7

昇腾910B大模型实测:开源框架能不能打?真相全放这了

文章对昇腾 910B 大模型进行实测,对比 vLLM Ascend 与 MindIE 在实际推理场景中的性能差异。通过 GPUStack 平台测试多种模型,结果显示两者在不同部署场景各有优势,vLLM 适合单卡小模型,MindIE 适合大模型多卡部署。

探索AGI
新闻资讯8

斯坦福华人天团意外爆冷!AI用纯CUDA-C编内核,竟干翻PyTorch?

斯坦福华人团队用纯CUDA - C编写的快速AI生成内核超越PyTorch,成果登上Hacker News热榜。研究者采用KernelBench任务设置,引入新优化方法,实验显示多数最优内核在靠后轮次出现,优化策略集中在几类常见模式

新智元
产品应用7

这款小众 AI 产品,真让我眼前一亮

AI笔记应用Granola获4300万美元融资,估值达2.5亿美元。它打破传统会议记录模式,发挥人和AI优势。其创始人分享创业和产品理念,探讨产品决策、用户反馈筛选等问题,还谈及旅行对直觉的影响及产品发展方向。

MacTalk
新闻资讯7

不再“纸上谈兵”:大模型能力如何转化为实际业务价值

InfoQ《极客有约》X AICon 直播栏目邀华为云郑岩、蚂蚁集团杨浩、明略科技吴昊宇,探讨大模型驱动业务提效。分享场景探索、技术落地经验,如选模型考量因素、AI Agent 创新等,还提及 MCP 应用与未来展望。

AI前线
开源动态7

本文关注vllm V1中管控模型分布式推理的Executor部分,介绍其类型、Executor-Workers架构及数据传输机制,对比V0架构优势,以单机多卡的MultiprocExecutor为例展开讲解,还提及不同数据量的传输方式及相关代码。

猛猿
新闻资讯8

对话Persom张天翊:我想做一个人在数字世界的身份证|甲子光年

本文是甲子Builders对Intuition Lab创始人张天翊的专访,讲述他前次AI创业失败后,瞄准AI缺少用户上下文的痛点,推出开源Personal Model,即将内测AI记忆产品Persom,打造数字世界个人身份层,重构人与AI协作模式

甲子光年
推荐文章7

无法蒸馏的美国市场,谁在分食 Frontier Labs 百亿美金预算?

本文围绕美国数据市场展开,分析了数据赛道的投资判断、公司增长难题、需求结构、最新趋势等。指出数据虽重要,但外部数据公司份额难线性外推;真实世界数据成新热点,各细分领域格局和投资方向不同。

海外独角兽
开源动态7

AI Labs 都在用,ClickHouse 能成为 AI 日志的实时分析引擎吗?

过去18个月,ClickHouse发展迅猛,2025年末ARR达1.6亿美元,付费云客户超3000。它原是Yandex项目,适合LLM推理日志分析。通过收购拓展为数据平台,进入多市场竞争。文章探讨其增长原因、产品、市场及优劣势等。

海外独角兽
算法论文8

DeepSeek刚解决了AI视觉最后一块拼图:极低成本+精准视觉定位,AI接管电脑已无死角

DeepSeek放出新论文《Thinking with Visual Primitives》,解决多模态大模型中长期被忽视的“说不清位置”问题。提出将空间标记作为“最小思维单元”插入推理链条的方案,在多个任务上达前沿水平,但也存在精度、触发机制和泛化能力等局限。

AI寒武纪