「离线运行」共找到 651 篇相关文章
小扎万字檄文炮轰硅谷，Meta重磅开源30B小钢炮！一台MacBook就能跑
Meta发布全新30B大模型Muse Glimmer并开源，用4-bit量化等技术让其能在本地设备运行，有五大核心超能力且采用Apache 2.0协议。同时，Meta CEO小扎发表万字檄文暗讽OpenAI等，抨击AI末日论等观点。
不可思议！400B大模型在iPhone上跑起来了
一个跑在 iPhone 17 Pro 的 A19 Pro 芯片上的 400B 大模型 Qwen3.5 - 397B - A17B 引发关注。这源于 Flash - MoE 开源项目，它摒弃现代 AI 框架，回归底层开发，实现消费级硬件上大模型交互级速度运行。
GUI智能体训练迎来新范式！半在线强化学习让7B模型媲美GPT-4o
浙江大学与通义实验室团队推出UI - S1，提出半在线强化学习训练范式。它融合离线与在线学习优势，用三项关键技术构建核心架构，新评测指标SOP更贴近真实表现，实验显示UI - S1 - 7B性能卓越，逼近GPT - 4o。
非Transformer架构的新突破，液态神经网络的推理小模型只用900M内存
谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。
GitHub 千星项目：把四款 AI 编码工具变成并行科研 Agent！
本文介绍alphaXiv团队开源的千星项目OpenResearch，针对当前AI编码工具不适合科研循环、多Agent并行冲突等痛点，将四款主流AI编码工具包装成可自动运行完整研究循环、支持多Agent并行探索的科研Agent，核心设计简洁实用，覆盖完整科研工作流。
刚刚，马斯克开源Grok 2.5：中国公司才是xAI最大对手
马斯克主导xAI正式开源Grok 2.5，Grok 3将半年后开源。Grok可在HuggingFace下载，运行有条件。虽Grok 2曾有不错表现，但网友对其参数权重、开源协议等有诟病。此外，还更新APP视频生成功能，马斯克称中国公司是xAI最大对手。
跨越智能体落地的可信鸿沟：玄甲（AgentWard）全链路防御操作系统正式发布
大模型向自主智能体演进，安全威胁全域化。当前安全方案有局限，制约产业落地。清华大学团队推出玄甲全链路安全防御操作系统，构建五层纵深防御体系，已落地应用，降低安全事件发生率，筑牢安全防线。
Vercel 发布 durable-harness：Agent 崩溃后能自动恢复
Vercel推出开源项目durable-harness，解决AI Agent运行崩溃后状态丢失的痛点，通过持久化日志保存每一步运行状态，支持多款主流Agent框架，可实现断点续跑，部署灵活。
猛涨25k star！一键检测你的电脑能跑哪些大模型！
最近 Github 出现工具 `LLMFit`，用 Rust 编写，能自动检测硬件配置，判断大模型能否流畅运行，推荐最优量化版本和运行模式。有一键硬件检测等特性，安装使用方便，降低本地部署门槛。
英伟达开源上瘾了！推出了一款实时语音智能体的终极 ASR：24ms 极速锁定。
英伟达开源了Nemotron Speech ASR模型，它是低延迟、实时流式语音识别模型，单句转录锁定仅需24毫秒。其核心能力包括缓存感知、运行效率高、动态运行灵活，还被放进完整语音智能体方案。