「推理部署」共找到 2654 篇相关文章
AI引发K型分化：Gemini 3 加剧技术劳动力分化，判断力为王，基础岗位将被AI完全替代，程序员也不例外
2025年11月Google发布Gemini 3，依托多模态MoE架构和“Deep Think”模式，在软件工程等领域实现推理能力质的飞跃。它使前端开发工作重心转移，重构软件工程工作流，赋能白领但带来隐患，还冲击劳动力市场，提升软件掌握门槛。
你急它不急：GPT-5先判断，再决定「速答」还是「深想」
OpenAI副总裁Jerry Tworek透露，GPT - 5能判断问题难度，分配思考时间，决定何时停下。它升级了推理能力，有了时间感，采用受控思考机制，提升了复杂任务准确率，减少幻觉。其进化历经o1、o3到GPT - 5阶段。
Temperature Scaling可大幅提高Test-Time Scaling瓶颈！
大型语言模型解决复杂推理问题时，测试时扩展（TTS）是提升性能的途径之一。但传统TTS依赖增加样本数量，性能提升有瓶颈。本文提出温度缩放新思路，实验表明其能大幅提升性能，还给出降低成本方法。
你们催更的模型，云栖大会一口气全发了！
云栖大会上新6款模型、发布1个全新品牌，覆盖多场景。如Qwen MAX万亿参数大模型能力登顶国际榜单，Qwen3 - Omni实现全模态不降智等，各模型能力升级显著，现已同步上线。
AI浪潮之下：存储来到聚光灯下
AI浪潮下，行业对存储设备重视上升。其根因是AI业务刺激，数据量增长且推理业务有新需求。信通院报告显示我国存力结构优化，国内厂商迎来机会，平头哥镇岳510主控芯片表现出色，生态建设也在推进。
淘宝上卖9块9的DeepSeek，让我看到了被折叠的魔幻世界。
作者在淘宝搜DeepSeek，花9.9元下单号称无需部署、打开即用的产品，收到的却是360纳米搜索等免费链接。评论区全是好评，反映出信息鸿沟。AI本应打破壁垒，却成壁垒本身。
微软开源3大突破AI Agent模型，仅140亿参数超越DeepSeek-R1
微软研究院开源AI Agent推理模型rStar2-Agent，140亿参数在多测试超6710亿参数的DeepSeek-R1。其通过智能体强化学习，在训练基础、算法、流程上有三大突破，显著提升性能且降低算力成本。
字节Seed提出M3-Agent：像我们一样"记住"与"思考"的长视频理解新范式
字节Seed提出M3 - Agent，这是首个融合实时视听输入、类人记忆构建与自主推理的多模态智能体。它模仿人类记忆机制，解决长视频理解痛点，已被CVPR 2025收录并开源代码，为通用人工智能奠定基础。
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
GPT-5 不是技术新范式，是 OpenAI 加速产品化的战略拐点
文章从不同视角评价 GPT - 5，指出它是 ChatGPT 产品重要升级，是 Router 驱动系统。介绍其能力提升与短板，如 Vibe coding 性价比高但 Agentic 能力不足，还探讨了商业影响、价格战等，期待其 Agentic 能力发展。