「执行速度」共找到 1130 篇相关文章
DeepSeek|从零构建轻量级vLLM：Nano-vLLM，吞吐量逼近原版，代码仅需1200行
开源的vLLM能提升LLM推理速度和资源利用率。近日，DeepSeek AI俞星凯从零构建轻量级Nano - vLLM，代码仅1200行。它有离线推理等功能，基准测试显示吞吐量逼近原版。
3B小模型吊打72B巨头！轻量级文档解析OCR，性能超Gemini，高效且精准！
Yuliang - Liu团队在GitHub开源轻量级文档解析模型MonkeyOCR，以SRR三元组范式实现高效精准解析，3B参数模型在英文文档解析上超Gemini 2.5 Pro和Qwen2.5 - VL - 72B，还介绍了安装部署、适用场景等。
开启端侧长文本时代！面壁全新架构，让小钢炮最快提升220倍
2025智源大会上，面壁智能发布MiniCPM 4.0模型，实现行业首个系统级上下文稀疏语言模型创新。它在端侧推理任务上表现出色，降低缓存需求，提高运行效能，还进行多维度架构创新，是AI领域探索高效率语言模型的里程碑。
13.8K star！！6G显存就能跑的AI视频神器，支持1分钟生成，这么6？！
现在AI视频生成领域仍面临高算力需求挑战，斯坦福大学研究团队推出`FramePack`项目，降低了本地AI视频创作硬件门槛，有低硬件需求、高效生成速度等特色，操作也简单。
近期必读，Mary Meeker 340页PPT分析AI现状和未来
Mary Meeker发布340页《人工智能趋势报告》，分析AI现状与未来。报告指出AI发展迅速，用户、使用量和资本支出增长前所未有，但也面临变现威胁，如竞争加剧、开源模型崛起和中国追赶，同时AI正深刻改变工作方式。
创新性自动化 AI 工具-终结者机器人
Terminator是最快的AI优先计算机操作SDK，用类似Playwright的API与Windows原生GUI应用交互，比基于视觉的方案更快更可靠，能操作后台应用。它重点支持Windows，部分支持macOS，暂不支持Linux。
南科大教授余沛源创业做AI+材料：真正难的不是生成，而是验证
南科大教授余沛源创业成立三向纪元，构建可验证材料模型。他认为AI+材料研发难在验证，当下是产业化窗口期，中国有优势，初创企业与大厂各有优劣，公司有独特技术与商业模式。
AI 怎么自我改进？Lilian Weng 的答案是：先写好Harness
提出 Agent 基本公式的 Lilian Weng 探讨 AI 递归自我改进，强调‘harness’重要性，介绍其设计模式、优化方法，还提及未来挑战与有用基准。如 harness 工程额外包含工作流设计等，优化方式多样但也面临评估器弱等问题。
刚刚，DeepSeek 文档更新，Agent 开发者要注意这个字段
DeepSeek在官方API文档给出thinking mode和tool call结合样例，把模型中间思考过程成Agent系统需管理部分。关键字段`reasoning_content`从调试信息成协议流程一部分，影响状态管理、多模型适配等。
RPA要没了
Codex更新Record & Replay功能，虽与RPA表面都是录制操作、重复执行，但底层逻辑不同。RPA是指令式，有诸多缺陷；Codex是目标式，是RPA替代品，还构建了企业自动化体系。