「大模型推理系统」共找到 9129 篇相关文章
国产双开源：让Mac成为你的私人AI工作站
2026年3月底，Ollama将Mac版底层推理引擎换为苹果MLX框架，性能提升显著。明略科技开源Cider和Mano - P，Cider加速推理，Mano - P可操作图形界面，两者结合推动Private AI发展。
字节最火的开源Agent项目，如何思考Agent的自我进化？
4月5日，LangChain创始人Harrison Chase阐述对Agent自我进化的思考，认为Agent系统可在Model、Harness、Context三层持续进化。知名开源框架DeerFlow联合作者Daniel也补充了团队思考。
字节豆包2.0重磅发布！成本暴降一个数量级，Seed团队揭秘视频Agent竞争关键
今天，字节正式发布豆包大模型 2.0 系列，围绕大规模生产环境需求优化，提供多款通用 Agent 与 Code 模型。其成本优势明显，多模态能力升级，未来将聚焦长链路智能系统构建。
国产芯片比英伟达整体效率更高！？华为 CloudMatrix384 超节点首曝论文，跑 DeepSeek 效率超越英伟达
今年4月，网上曾争论华为芯片效率是否超国际主流。近日华为团队论文公开，阐述在CloudMatrix 384超节点部署DeepSeek大模型细节，性能指标超英伟达体系，还介绍架构、软件栈及适配优化方案。
GEO中，llms.txt是个啥？
GEO中llms.txt是新兴网络标准提案，分提案A（访问控制）和提案B（推理指导）。提案A类似robots.txt，控制内容用于模型训练；提案B是Markdown文件，助LLM理解网站。作者整理指南分享，盼业内出标准。
突发！快手AI掌舵人周国睿即将离职，下一站爆出
多个媒体爆料，快手副总裁、基础大模型及推荐模型负责人周国睿即将离职，目前本人在快手内部系统显示为休假状态。其去向不明，有传加入Meta或TikTok，官方未回应。
告别黑箱解释！首个潜变量自动解释框架 | CIKM'25
深度生成模型内部运作如「黑箱」，潜变量意义难捉摸。埃默里大学团队提出LatentExplainer框架，经数据扰动、智能提示、不确定性评估三步，为潜变量生成易懂解释，提升模型解释质量与可靠性。
Cursor定价又更新，直接变成" 买API "，Coding 产品包月模式走不下去了
Cursor一年三变价，9月15号后个人版按模型推理用量计费，有Pro、Pro Plus、Ultra方案，还对大学生免费计划二次验证。因模型成本涨、竞争大，包月模式难以为继，多家编程工具都调整定价。
自媒体误读了 DeepSeek-OCR：一图胜千言
近期，DeepSeek-OCR引发关注，但很多媒体误读其为OCR工具，实际是视觉语言模型。它是为大文档等场景优化的视觉压缩与识别系统，架构新颖，训练讲究，效果出色，为行业带来新思路。
奖励是假的，能让Qwen提升25%性能却是真的！
华盛顿大学博士生团队用Qwen模型对虚假奖励进行RLVR，使MATH - 500准确率显著提升约25%。研究发现RLVR不考虑奖励正确性，还分析了虚假奖励有效的原因，提示现有研究要在非Qwen模型验证。