「轻量化推理」共找到 2335 篇相关文章
大神Karpathy炮轰复杂UI应用没有未来，Adobe首当其冲，网友：不提供文本交互，就是在阻挡AI浪潮
大神Karpathy预言只有复杂UI界面、不提供文本交互的应用将被淘汰，还点名Adobe、CAD。他言论引发讨论，支持者强调后端接口，反对者认为专业软件有其价值。此外，他还批判大模型编程‘重生成轻判别’。
刚刚，Anthropic发布Sonnet 5，性能接近Opus 4.8，但不一定更便宜
Anthropic发布Claude Sonnet 5，称其为最具Agent属性的Sonnet模型。它在推理等方面性能提升，接近Opus 4.8且价格低。安全评估有改善，但网络安全逊于Opus 4.8。已正式可用，有优惠首发价。
Unsloth让大模型跑在手机上！
Unsloth放出教程，可将其微调模型部署到Pixel 8和iPhone 15 Pro。用ExecuTorch技术优化，Qwen2 - 0.5B在旗舰机上表现流畅。教程介绍量化感知训练控制精度损失，还给出iOS和Android部署步骤及注意事项。
本周推荐的5个超级6的Github开源项目！
文章推荐了5个超棒的Github开源项目。有轻量全能、自带阅后即焚的pastebin工具microbin；容器与K8s管理利器Podman Desktop；开源投屏神器Escrcpy；强大易用的国产建站工具Halo；跨平台AI笔记神器NoteGen。
Yann LeCun放出憋了20年的大招：Meta开源V-JEPA 2世界模型
Meta发布V-JEPA 2世界模型，参数高达10亿，推理速度比英伟达Cosmos快30倍。它基于Vision Transformer架构，是Yann LeCun倡导多年的JEPA路线成果，仅需62小时机器人数据训练就能执行任务，打脸质疑者。
对话蚂蚁吴伟：训推一体池化调度，如何把GPU用到极限
AICon大会前，与蚂蚁集团吴伟深度对话，探讨GPU资源调度解法。他指出CPU和GPU有结构性差异，只在推理或训练内优化有资源闲置，国产卡缺全链路生态，软件优化有天花板。还分享架构思路、算法及落地效果等。
一夜之间，AI终获「永久记忆」！最难考试99%刷爆SOTA，全网直呼疯狂
新智元报道，Supermemory团队推出超级记忆系统ASMR，在AI记忆界最难考试LongMemEval中刷到99%准确率。它抛弃传统模式，采用多Agent并行推理，4月初将开源代码。此外，其背后的Supermemory引擎功能强大，能让AI真正拥有记忆。
刚刚，OpenAI Astra核心架构爆出：大模型第三条Scaling法则诞生
The Information记者爆料OpenAI即将推出的Astra模型采用“recurrent depth”新推理方法，该技术能降本提效，但引发AI安全与可观测性担忧。清华与字节论文解决了循环模型“算力不公平”问题，并给出Scaling Law。
对话刘靖康：镜头之外的「智能」和「审美」，才是 Camera Agent 的主战场
影石 Insta360 创始人刘靖康在 AGI Playground 2026 上提出未来影像设备“前轻后重”趋势。他介绍了 Cameraman 愿景，涵盖 Imaging、AI、Robotics 三技术方向，还提到云端 AI 剪辑服务情况及对行业多方面的见解。
AI玩具和AI眼镜爆火，端侧市场或将超越云端？
当下AI难形成商业闭环，端侧AI或为落地答案。芯原股份戴伟民看好端侧AI市场，认为未来端侧推理需求或超云端训练，还指出AI眼镜、玩具、智能汽车等增量市场，同时介绍了芯原布局。