搜索：低精度训练 - AI Reading Hub

「低精度训练」共找到 3122 篇相关文章

苹果提出新型反向传播：一台iPhone 15 Pro Max就能微调LLM

苹果提出内存高效型反向传播（MeBP），可在内存使用量和计算时间上比零阶优化（ZO）有更好权衡，收敛更快、性能更优，还在iPhone 15 Pro Max验证其有效性，且公开了实现链接但目前为空。

10月，AI圈顶流Andrej Karpathy有三连动作：开源nanochat项目，100美元可复刻ChatGPT；发表AGI十年论，给行业泼冷水；推进Eureka教育项目，重构AI教育范式。

谷歌DeepMind与陶哲轩等打造的AlphaEvolve是LLM驱动的进化编码Agent。它能优化计算生态、调度数据中心等，还解决了数学难题，已在谷歌内部使用，现开启早期邀测试用。

由 Cascadium 团队打造的 WSL Windows Toolbar Launcher，将 Linux 终端装进 Windows 任务栏。它有一触即发控制台、状态感知任务栏等功能，适用全栈开发、机器学习等场景，与同类项目相比优势明显。

清华大学智能驾驶课题组 iDLab 与加州大学伯克利分校人工智能研究院 BAIR联合发表研究，提出 MVP 策略。它引入瞬时速度约束解决均值流学习问题，设计复合生成与选择机制，在多任务测试中表现出色。

商汤科技联合南洋理工大学发布NEO - unify，这是“原生、统一、端到端”多模态模型架构，砍掉VE和VAE，用混合变换器架构打通视觉与语言能力，提升数据与算力利用效率，为跨模态智能系统奠基。

开发者运行OpenClaw成本高，Sipeed推出超轻量开源项目PicoClaw。它内存占用小于10MB，成本只需10美元硬件，启动快、可移植，功能全，还介绍了入手方式和技术路线。

传统离线翻译模型有延迟问题，GitHub上NoLanguageLeftWaiting开源项目把Meta的NLLB模型改造成实时同传模型，能边听边译，支持200种语言互译，还在开发推测解码功能提升速度。

OpenObserve 是云原生开源观测平台，用一个服务搞定日志、指标等监控与可视化，能解决监控栈散、部署复杂、存储贵的问题，号称日志存储成本比 ES 降至约 1/140，功能亮点多。

近年来，可验证奖励强化学习（RLVR）提升了大模型在多任务上的性能，但带来“能力退化”问题。Meta等提出RECAP策略，结合“回放”与“动态目标重加权”，保持模型通用能力，提升推理性能，还提高推理效率。