「推理服务基础设施」共找到 2938 篇相关文章
图像界的DeepSeek！12B参数对标GPT-4o，5秒出图，消费级硬件就能玩转编辑生成
Black Forest Labs开源旗舰图像模型FLUX.1 Kontext[dev]，专为图像编辑打造，能在消费级芯片运行。12B参数少、推理快，性能媲美闭源模型。有诸多特点，经优化训练，在KontextBench基准表现优。
720美元套出A社死藏的Opus原始思维链，还是Haiku泄露的，GPT/Gemini也中招
研究人员发现，将大模型返回的加密推理块扔给同厂小模型让其复述，就能破解大模型隐藏的思维链。如Anthropic、OpenAI、Google的模型均中招，还会带来隐私、安全等风险，虽已打补丁，但仍有难题。
开源Agent模型榜第一名，现在是阿里通义DeepResearch
阿里开源首个深度研究Agent模型通义DeepResearch，在多权威评测集上超越多个Agent模型。它采用多阶段数据策略，有两种推理模式，革新训练流程，已赋能高德出行Agent和通义法睿等应用，且模型等均已开源。
大模型是不是到顶了？瓶颈到底在哪
文章探讨大模型是否到顶，指出‘到顶’争论分三个问题，靠堆大模型提升能力之路变平，受数据和成本约束。但大模型还有后训练和推理时计算两个发展方向，未来进步或来自更会用算力。
GPT-5.5全球首破！0源码盲写程序，编程AI进入新纪元
全网AI交白卷的ProgramBench编程基准，被GPT-5.5首破。它能0源码盲写程序，同一题用C和Python两种解法通过测试。相比之下，Opus 4.7表现不佳。这揭示推理算力成编程AI核心变量。
DeepSeek-V3.2正式版发布，将开源模型的能力推向极致
DeepSeek-V3.2正式版开源，包含标准版和Special版。它采用稀疏注意力机制，降低计算复杂度。后训练阶段有多项算法改进，支撑高难度推理。还融合思考与工具使用，合成训练数据，在智能体评测表现优异。
ACL 2025 | GALLa：给代码大模型装上“透视眼”，看懂程序的“骨架”！
蚂蚁集团与上海交大合作的 GALLa 研究被 ACL 2025 主会录用。它利用图神经网络将代码图结构信息注入大模型，在 7 个模型和 5 个任务上提升性能，推理与普通 LLM 一致，不增成本。
Forbes 报道：2.5 亿美元年化收入，硬件销量超百万，Plaud 是怎么赚钱的？
AI硬件创企Plaud创始人许高透露，公司年化收入将达2.5亿美元，约半数收入来自年度AI订阅服务。Plaud采用“深圳硬件+硅谷AI”模式，专注海外市场，以“硬件+软件订阅”盈利，同时面临大厂竞争。
dLLM的「Free Lunch」！浙大&蚂蚁利用中间结果显著提升扩散语言模型
近年来，扩散大语言模型（dLLM）成为文本生成新势力，生成效率高。但现有解码策略忽视中间迭代信息，研究团队观察到「先对后错」现象，提出 TCV 和 TCR 方法，显著提升模型在推理任务表现。
从 0 到 1 做一款 AI 产品：技术怎么搭、成本如何控制、销售策略怎么定？
独立开发者 Arvid Kahl 分享从零构建 AI 播客产品 Podscan 及「节俭工程」经验，涵盖技术搭建、成本控制与销售策略调整。如用小众云服务降成本，从 PLG 转向 SLG 等，为小团队创业者提供实用借鉴。