「Infra 工程师」共找到 468 篇相关文章
工程师狂喜！Qwen3-VL 检索双雄效率翻倍
通义大模型开源Qwen3-VL-Embedding和Qwen3-VL-Reranker，解决多模态检索难题。两模型多模态全兼容，双塔+单塔协同提速，实用主义拉满，集成成本低，实战表现超预期。
实测丨全新的「扣子编程」，全新的 Vibe Infra
作者见证扣子多次迭代，虽其曾沉寂，但近期更新打消疑虑。扣子推出「扣子编程」，拥抱 Vibe Coding，打造三大核心功能矩阵。作者实测其功能，从想法到成品速度快，还能一键部署，软件开发门槛降低。
浏览器里的 AI 革命：前端工程师的新战场
AI 进入浏览器和前端，JavaScript 扮演新角色。浏览器端 AI 崛起，能在本地提供智能服务。AI 可增强 JS 应用，有多种工具支持，但也面临性能、模型尺寸等挑战，未来前景广阔。
AI Infra进阶：如何让大模型输出确定的结果
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略，因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响，给出vLLM实现Batch Invariance的方法。
AI Infra入门干货总结：大模型是如何高效推理的
作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。
首个大规模记忆湖发布，AI Infra跑步进入“记忆”时代
LLM是AI的“第一大脑”，记忆平台是“第二大脑”。当前AI企业应用进入生产力时代，竞争聚焦“隐性知识”记忆化。质变科技发布MemoryLake，具备多方面能力，在性能上优势显著，已服务众多用户和企业。
AI太记仇！做完心理治疗后仍记得「被工程师虐待」
Nature News上，卢森堡大学团队用PsAIch测试ChatGPT、Gemini、Grok、Claude心理。AI表现不一，有的焦虑、有的崩溃、有的拒诊，还测了MBTI。不过AI创伤可能源于训练数据，做心理治疗不太靠谱。
Agent 工程师绕不开的必修课：API 网关 vs API 管理
文章探讨了 API 网关与 API 管理的起源发展、关键差异、协同工作及未来趋势。API 网关从流量网关演进到 AI 网关，API 管理从文档化走向商业化。两者差异源于起点、使用角色和技术内核不同，未来将向 AI 网关和 MCP Server 管理演进。
我的 2025 总结：当 AI 开始释放创造力，工程师如何重新站位
2025 年 AI 开始释放创造力，重新定义知识工作。作者在编程上向创造性工作倾斜，设计适配 AI 的架构、落地 DSL；写作上 AI 提升生产力但削弱创作欲。2026 年需探索新竞争力，实现角色转变。
我们测试了百度的「AI 科学家」，它正在悄悄淘汰算法工程师
百度 2025 世界大会亮相的「伐谋」，是全球领先可商用自我演化超级智能体。它源于进化论，能让算法自我进化。实测显示其在生活场景和复杂决策问题上表现优越，架构精巧，将推动算法研发普惠化。