搜索：训练推理效率

「训练推理效率」共找到 4360 篇相关文章

外卖公司也能搞AI？

昨天凌晨美团悄悄开源560B参数的MoE大模型LongCat-Flash-Chat，引发国外网友疑惑。该模型推理速度超100 tokens/秒，基准测试表现出色，多项设计解决实际问题，贴合美团业务需求。

Salient是一家主打AI agents贷款服务的公司，在A轮融资筹6000万美元。它为消费金融打造平台，推出语音AI agent等业务，能提升效率、确保合规，已与多家贷方和银行合作，效果显著。

本文展示借助 RDS Supabase 搭建 AI 应用的全流程，对比传统开发，其在效率、成本、扩展性上优势显著。介绍 Supabase 特性、适用场景、核心能力，还给出基于它开发简易 Agentic RAG 应用的步骤。

上海人工智能实验室等团队设计REST框架，在一个prompt里抛多问题模拟复杂推理场景。结果显示，DeepSeek - R1等模型高压下性能大幅缩水，REST能拉开不同模型差距，还揭示评测方法局限。

Avraham Poupko 在 OOP 大会分享软件架构师用 AI 经验，认为软件架构师不会被 AI 取代，AI 适合探索权衡、提炼语言，但缺乏情境推理和情感智能，人类在这方面更有优势。

文章提出并行扩展（ParScale）路线，在不增模型参数下，通过引入并行流提升性能。新扩展定律打破传统范式，两阶段后训练策略降成本，还适用于边缘设备，研究仍在进行。

全球约20%成年人受慢性疼痛困扰，现有神经刺激设备有局限。纽约大学阿布扎比分校等团队研发SEED可注射无线神经刺激器，大鼠实验实现坐骨神经精准刺激，但面临效率、电荷平衡等问题。

谷歌在Google I/O大会推出Gemini Omni，它结合推理与生成能力，在多方面有重大飞跃，能生成逼真视频等。它打破命名体系，训练目标不同，有涌现能力，谷歌还为其设置限制。

现在用AI写代码存在效率低、浪费token等问题，知名开发者tw93发起开源AI编程skill库Waza，将顶尖工程师习惯转化为Claude Code可运行技能，推出8实用技能，还提供两个小脚本。

现有LLM搜索Agent忽视‘如何提问’致答案易出错。SmartSearch提出‘过程奖励+查询精炼’双机制，让Agent学会‘写不好就改’，代码已开源。经实验，它在六数据集全面领先，各机制缺一不可。