「渐进式结构推理」共找到 2522 篇相关文章
逐个token太慢！大模型原生并行出token，CMU、英伟达新作Multiverse
卡耐基梅隆大学（CMU）和英伟达研究者提出Multiverse，这是能实现原生并行生成的新型生成模型。它解决了现有并行生成模型缺乏连贯性等问题，通过多方面协同设计构建推理模型，还开源了生态系统。
苏妈联手OpenAI，AMD发布3nm怪兽MI355X，性能碾压英伟达B200！
AI芯片战争白热化，AMD在大会发布3nm工艺的MI355X，推理性能超英伟达B200，还公布明年推出的MI400系列等新品。OpenAI CEO称将用AMD芯片，AMD与OpenAI开启合作。
揭秘开源Agentic‑Doc真能支撑120 W+ 查询？医疗/金融/法务都在用，确实是有这么 6~~~
LandingAI的Agentic Document Extraction是领先OCR且具视觉结构化能力的Python SDK，可处理复杂文档。它功能丰富，架构合理，支持多格式输出。在多行业有应用，性能提升显著，与同类项目相比优势明显。
AI 渗透金融行业：大模型如何破解风控、服务与决策难题？
在数字化与人工智能驱动下，金融行业变革深刻。InfoQ《极客有约》X AICon 直播栏目邀多位专家探讨大模型赋能金融，涉及风控、服务、决策等难题，分享了大模型应用场景、技术渗透、权衡可解释性与性能等观点。
一文读懂：国产AI芯片与英伟达的差距有多大？
文章围绕国产AI芯片与英伟达的差距展开。从算力性能、生态壁垒、市场现状、技术瓶颈等方面分析差距，指出国产芯片虽在部分场景缩小差距，但高端训练和生态成熟度仍落后3 - 5年，突围需多领域突破。
北大联手通义实验室发布ZeroSearch：成本暴降88%，无需搜索即可激活大语言模型的检索能力！
北大与通义实验室发布ZeroSearch框架，可无需真实搜索激活大语言模型检索能力。它引入大语言模型模拟搜索、采用结构化模板等策略，成本降88%，多项实验显示其性能超越基线与真实搜索方法。
英伟达再破世界纪录，每秒1000 token！刚刚，全球最快Llama 4诞生
英伟达用Blackwell创下AI推理新纪录，单节点8颗GPU实现Llama 4 Maverick模型每秒单用户生成1000个token。这得益于技术组合拳，如用TensorRT - LLM优化、应用FP8格式等，满足了低延迟需求。
Pokee.ai 朱哲清：用 RL 搭建智能体的「骨骼与神经」| AI 产品十人谈
《AI 产品十人谈》对话 Pokee.ai 朱哲清，探讨强化学习与 Agent。朱哲清是强化学习信徒，曾带领 Meta 团队突围。他认为单靠预测难完成复杂任务，强化学习是超人类智能的关键，介绍了 Pokee.ai 产品优势及对通用 Agent 的看法。
55.9K star！微软硬核开源文档转换神器，LLM最佳拍档！
介绍微软开源的轻量级Python文档转换工具MarkItDown，它支持20+格式智能转换为结构化Markdown，专为LLM文本分析场景优化，解决开发者处理多格式文档痛点，还阐述其功能、技术架构等内容。
马斯克：AI巨浪已至，吸干全球救命钱！
马斯克警告AI激流已至，过去一年全球AI推理Token用量暴增25倍。ARK首席未来学家指出AI基础设施投资回报高，引发资本转移与挤出效应，传统企业融资难、人才流失，将被AI“吸干”资本。