「离线AI大模型」共找到 13544 篇相关文章
WWDC 2025 让大家“失望”了？no！苹果在下一盘AI大棋
苹果WWDC 2025未推出预期AI应用矩阵，股价下跌引失望。但实则是深思熟虑之举，它开放端侧模型及工具，让开发者创新，规避风险，待AI成熟凭借优势“后发先至”。
SGLang原生支持昇腾，新模型一键拉起无需改代码
12月20日SGLang AI金融π对收官，聚焦大模型推理效率。昇腾成SGLang原生支持后端，助DeepSeek等模型免调参运行。SGLang给出推理系统工程解法，昇腾与SGLang深度共建，性能优且全面拥抱开源。
CVPR2026 | Streamo：让大模型变成实时流式交互助手
香港浸会大学联合腾讯优图实验室提出 Streamo，将‘何时回答’变为模型预测的 token，通过端到端训练框架把离线视频模型转化为实时流视频助手，还构建 Streamo - Instruct - 465K 数据集，实验效果良好。
锚定未来，安谋科技Arm China发布"AI Arm CHINA"战略
在ICCAD - Expo 2025上，安谋科技Arm China CEO陈锋发布“AI Arm CHINA”战略，表明全力投入AI决心。AI重塑产业逻辑，安谋科技发挥桥梁作用，推出“周易”X3等产品，构建AI计算生态。
AI 产品定价指南：按量定价的卡点到底是什么？
本文编译 a16z 与 Scott Woody 访谈，探讨 AI 改变软件定价逻辑及企业应对策略，还补充定价专家 Madhavan Ramanujam 关于 AI 产品定价四象限观点，指出按量定价的难点、适用模式及企业转型要点等。
叛变！OpenAI亲儿子竟然选了Kimi K3
OpenAI投资的法律AI公司Harvey，首个自研模型Harvey Tenet选中国开源模型Kimi K3作底座。因原用闭源模型成本高、有竞争风险。Tenet训练成本低、性能佳，显示出可复制路径。
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
开源大模型实战：GPT-OSS本地部署与全面测评
2025年8月5日，OpenAI发布GPT-OSS-120B和GPT-OSS-20B开放轻量级语言模型，采用Apache 2.0开源许可证。文章介绍通过Ollama本地部署GPT-OSS -20B模型的方法，并对其进行AI幻觉、算法、SQL、数学题等测试。
Karpathy投了一家AI记忆公司，撞名DeepSeek Engram记忆架构
新公司Engram完成9800万美元融资，投资人有Andrej Karpathy等。它想为AI构建能持续学习的“记忆层”，解决模型吸收组织内部知识问题，首个产品是面向Agent的API，已与多家合作。
模型、代码、数据全开源！轻松训练自己的垂类Agent！
Together AI联合Agentica推出`DeepSWE-Preview`，基于开源Qwen模型，用RL在SWE - Bench - Verified登顶。团队将模型权重、训练框架等全开源，抛弃SFT纯用RL训练，还分享训练秘籍和TTS技巧，为垂类Agent训练提供新范本。