「前缀和计算」共找到 7335 篇相关文章
vLLM 正式支持 PaddleOCR-VL
11月4日，vLLM项目宣布正式支持PaddleOCR-VL模型。该模型专注文档解析，参数量仅0.9B。合作降低部署门槛，推理效率更高，官方还给出部署指南和配置建议，流程快速完成可作榜样。
数据与舆情双引擎：DeepAnalyze + BettaFish
DeepAnalyze是面向自主数据科学的大语言模型，能自动完成数据科学任务，支持完整流程、开放式研究且完全开源。还提出两项关键技术。微舆 - BettaFish是舆情分析系统，四类智能体协同工作，有六大核心优势。
别再只关注KV Cache了! LLM稀疏性新洞察：为何模型越深越稀疏？UNCOMP从矩阵熵给出答案
团队论文UNCOMP获EMNLP 2025主会接收，它提出高效推理框架，从截断矩阵熵视角解释LLM深层稀疏现象。还能识别关键结构、找到最优压缩策略，设计的UNCOMP框架优化KV Cache，实验效果佳。
刚刚，英伟达拟10亿美元砸向这家AI编码创企！Copilot 技术大佬带队、成立两年估值近千亿
10月30日消息，英伟达拟向AI初创公司Poolside投资最高10亿美元。该公司由微软技术大佬带队，定位生成式AI与软件开发交叉领域，开发自研模型，有独特强化学习方法和技术布局。
OpenAI 又发布了一个新的AI Agent~
OpenAI发布新AI Agent Aardvark用于找代码漏洞，流程包括监控Git提交等，测试能发现92%已知漏洞。还公布AI浏览器Altas技术架构，采用进程隔离和IPC通信，启动快，但维护成本高。
OpenAI首个GPT-5找Bug智能体：全自动读代码找漏洞写修复
OpenAI发布由GPT - 5驱动的白帽Agent——Aardvark，能在大规模代码库自动发现并修复安全漏洞。它不依赖传统技术，工作流程清晰，已开启内测。10月多家科技巨头也布局Agentic AI + 代码安全。
从兼职工程师直接跳到CTO，他用两个月让一款 Agent 干掉60%复杂工作并放话：“代码质量与产品成功没有直接关系”！
金融科技公司 Block 的 CTO Dhanji R. Prasanna 分享公司 AI 转型经验。Block 在 8 周内部署 AI 智能体，推出开源 AI Agent 框架 Goose，能节省员工工时，还谈到组织变革、AI 应用及招聘等多方面见解。
赵长鹏投了一个华人大三学生，1100 万美元种子轮，做教育 Agent
华人大三学生 Kai Zhao 创立的教育 Agent 产品 VideoTutor，获 1100 万美元种子轮融资。该产品主打生成专属教学视频，解决 K12 美国高考学习痛点，团队技术与市场表现出色，还分享了硅谷大学生创业趋势。
信息量爆炸！OpenAI内部路线图首次全曝光，首席科学家亲口承认：超级智能10年内到来
OpenAI宣布重组完成后，Sam Altman和首席科学家Jakub Pachocki直播公开内部路线图，称深度学习或10年内实现超级智能，还公布了AI研究目标与时间线，涉及产品、基建等多方面规划。
大模型优秀大脑齐聚硬核开源聚会，SGLang社区举办国内首次Meetup
10月25日，SGLang联合美团、亚马逊云科技在北京举办国内首场Meetup。SGLang是开源高性能推理引擎，特性丰富。活动中大咖和开发者分享见解、进展、应用场景，展现其社区活力与发展潜能。