「推理优化与部署」共找到 3527 篇相关文章
内核级的真相：为什么 eBPF 正在取代基于用户空间的 Agent 成为安全可观测性的首选
文章指出基于用户空间的安全 Agent 存在与威胁同权限层级、CPU 成本高、易被攻击等问题。eBPF 能在 Linux 内核运行受沙箱保护程序，可降成本、增可见性。上线应分阶段，还介绍工具及部署安全措施。
参数砍到 1B，这个小钢炮拿下多模态第一
面壁智能发布并开源参数量仅 1.3B 的 MiniCPM-V 4.6，虽小但多模态综合能力在 1B 级别中夺冠。它推理快，效率高，靠两大架构创新实现，还为开发者提供完整工具链。
清华2年前预言，正成为全球共识！Meta等三大AI机构已得出同一结论
全球三家AI研究机构结论曲线斜率几乎重合，而中国面壁智能和清华联合团队两年前提出的“密度定律”与它们一致。该定律改写行业假设，如推理成本下降、端侧智能爆发临近、大模型策略反转等。
Karpathy最新手搓！复现GPT-2成本狂降600倍：仅需507元3小时训练「最好的AI学习项目」
Andrej Karpathy的个人项目nanochat更新，现训练GPT - 2级别的LLM成本低于100美元，在单个8XH100节点上仅3小时花约73美元，较7年前成本降600倍，还列出关键优化技术，设排行榜。
黑森林FLUX.2 Klein开源，亚秒级高质量图像生成和编辑，普通电脑就能跑
黑森林实验室发布开源的FLUX.2 Klein模型家族，是紧凑架构，将高质量图像生成与编辑速度压缩至亚秒级，在消费级显卡实现旗舰性能。其统一架构打破生成与编辑壁垒，还与NVIDIA合作优化。
华尔街彻夜难眠！Gemini 3屠榜金融「最难考试」，AI砸了「金饭碗」？
被誉为「黄金职业通行证」的CFA考试被AI攻陷，推理模型不仅全部通过三级考试，部分科目接近满分。如Gemini 3.0 Pro在一级考试创97.6%最高纪录。不过AI仍有局限，还不能完全替代分析师。
OpenAI拉响红色警报！暂停广告和Agent，下周发布新模型硬刚Gemini 3
面对Google等对手的竞争，OpenAI宣布进入‘红色警报’状态，下周将发布新推理模型硬刚Gemini 3 pro。Altman暂停部分项目，调配资源升级ChatGPT，重点修补‘模型行为’，提升产品体验，还注重图像生成。背后是融资需求压力。
为 OpenAI 秘密提供模型测试， OpenRouter 给 LLMs 做了套“网关系统”
OpenRouter成立于2023年初，为用户提供统一API Key调用各类模型，OpenAI会用其秘密测试。平台token用量高速增长，还发布模型用量排行榜引关注。创始人认为大模型非赢家通吃，未来想成agent最佳推理层。
搜索智能体RAG落地不佳？UIUC开源s3，仅需2.4k样本，训练快效果好
当前 Agentic RAG 落地有挑战，UIUC 和 Amazon 提出 s3 训练范式。它仅需 2.4k 样本，训练快且效果好，解决了优化目标偏离、检索与生成耦合等问题，在通用和医学 QA 任务中表现出色。
180亿深圳芯片黑马，华为猛下单
4月25日晚，云天励飞公告2024年营收超9亿，同比增81.3%，截至4月28日收盘市值超180亿。该公司以‘算法芯片化’为基础，在推理算力、行业赋能、消费级业务均有布局，还与华为等合作。