「推理技术栈」共找到 4706 篇相关文章
LLM近期重大架构进化一览：从Gemma 4到DeepSeek V4
近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。
Google悄悄下了一盘大棋：一天三个端侧AI项目同时爆发
Google 一天内三个端侧 AI 项目爆发，包括离线听写 App Eloquent、端侧 AI 示例集 AI Edge Gallery 和端侧大模型推理运行时 LiteRT-LM。云端大模型竞争趋同，端侧 AI 是差异化战场，Google 全栈布局有优势。
CVPR 2026 | 从视觉Token内在变化量出发，实现VLM无损加速1.87倍
随着高分辨率图像与长视频处理需求增长，大型视觉语言模型推理效率成瓶颈。V²Drop从视觉Token内在变化量出发，采用多阶段渐进式剪枝策略，实现无损加速，在图像和视频理解场景表现卓越。
参数破万亿！阿里Qwen3-Max-Thinking发布，编程能力“踢馆”Gemini与Claude
阿里发布总参数超万亿的Qwen3 - Max - Thinking，预训练数据规模达36T Tokens。在多项权威测试中表现优异，能与顶级闭源模型竞争。引入两项核心创新，千问App等已上新，网友认可其能力与更新速度。
“被投资人怒怼30分钟后，我更确定中国To B的答案” | 甲子光年
文章讲述百融云创在AI To B领域的探索。它突破传统“卖工具”模式，采用“结果计价”，共担结果、承包KPI。技术上提前押注语音对话技术栈，“硅基员工”概念落地多场景，有望推动中国To B行业进入新秩序。
tRPC-Agent-Go：构建智能AI应用的Go语言Agent框架
tRPC是腾讯内部覆盖最广的RPC开发框架，tRPC-Go使用最广。2023年起LLM发展迅速，Agent开发框架成重要基础设施。tRPC-Agent-Go集成LLM等，支持创建多种Agent，为开发者提供构建智能应用的完整技术栈。
阿里 Qwen3：持续开源，SOTA 连连！
很多从业者有‘闭源模型一定比开源强’的刻板印象，而 Qwen 正打破此认知。最近阿里连发三款模型 Qwen3-235B、Qwen3-Coder、Qwen3-235B（Thinking），在多方向发力且拿下多个开源榜单第一。
离职员工首次长文揭秘真实的OpenAI：一半是天才，一半是疯子，7天时间上线code x
OpenAI离职员工Calvin French - Owen分享在公司一年工作的回忆与反思。从企业文化、技术栈揭秘，到7天打造编程代理code x的故事，让我们首次得以窥见OpenAI内部。作者认为这里有独特文化和强大执行力。
微软 CEO 萨提亚·纳德拉：智能体即产品，SaaS 已死？
微软 CEO 萨提亚·纳德拉在 Build 大会后接受专访，称正经历软件与智能范式巨变，AI 驱动的智能体网络将重塑企业软件未来，SaaS 会融入其中。他还分享了 AI 时代软件与商业模式变革的核心洞察。
首发Omni-Flow流式全模态架构，消费级显卡就能跑
面壁智能等联合发布MiniCPM-o 4.5技术报告，公开Omni-Flow流式全模态框架。该模型凭9B参数实现端到端全双工全模态，可在消费级显卡运行，还推出在线体验Demo等，性能表现佳，应用潜力大。