搜索：大模型推理训练

「大模型推理训练」共找到 8583 篇相关文章

谷歌公开全新极限压缩算法：LLM提速8倍、内存占用狂降6倍，精度零损失

谷歌推出全新量化算法 TurboQuant，瞄准大模型键值缓存吃内存、高维向量搜索算力瓶颈痛点，能砍内存、提速度且精度零损失。分 PolarQuant 和 QJL 两步，实验数据表现优异，将改变搜索格局。

OpenAI和Meta此前专注聊天机器人，如今分别推出新举措。OpenAI推Sora 2、ChatGPT Pulse和Instant Checkout；Meta推出Vibes。新项目利用AI提升用户参与度与收入，探索社交视频领域和大模型与商务融合。

文章是对 Richard Sutton 采访的反思，指出 LLM 训练效率低、依赖人类数据，未实现有机自主学习。作者与 Sutton 有分歧，认为模仿学习与强化学习互补，还探讨持续学习，称 Sutton 批评有启发性。

8月15日，快手发布组织架构调整公告，高级副总裁盖坤兼任可灵AI技术部负责人。他科研实力强，带领团队推出可灵AI。该模型迭代超30次，有大量用户和企业客户，战略地位不断提升。

外媒披露Anthropic年化营收达300亿美元，超越OpenAI的240亿。Anthropic由OpenAI前员工创立，15个月营收翻30倍，训练成本仅为对手四分之一。其80%收入来自企业端，而OpenAI陷入‘增收不增利’怪圈，内部也矛盾重重。

Eka Robotics 发布机械臂视频，其能自主拧灯泡、抓取物品。该公司提出 VFA 模型，不依赖人类数据，让机器人在仿真环境自主探索。创始人期望实现超人级灵巧操作，算法还展现泛化和自主发明策略能力。

AI Agent领域热闹，OpenClaw有响应慢等问题。Nous Research今年2月开源的Hermes Agent爆火，获64.8K Star。它是自学习型AI智能体，有六大核心特性，支持换模型，更新快，还支持一键安装。

大模型生成学术论述，其引用验证成难题，尤其付费墙后论文难以核验。BIBAGENT突破此困境，不破解付费墙也能验证引文语义真伪，还构建MISCITEBENCH评测，表现优异，为科学写作补“可审计基础设施”。

受谷歌DeepMind委托，Epoch发布报告剖析2030年AI的发展。指出训练成本或超千亿美元，公开文本数据2027年耗尽等，马斯克也关注此报告。还从多方面论证发展趋势可延续，且AI将加速多领域科研。

吴恩达指出编程助手带来“产品管理瓶颈”，即决定构建什么成难题。具备用户同理心的产品经理很关键，可凭直觉决策。还介绍通过多种策略获取用户反馈，强调用数据构建用户心理模型做决策。