「模式化推理」共找到 3492 篇相关文章
21
本文聚焦vllm v1中管控模型分布式推理的核心Executor部分,介绍其4种类型及适用场景,以mp类型为例阐述Executor - Workers架构,还说明了大小数据在两者间的传输机制及原理。
企业级Agent落地有了样板间!百融硅基员工批量上岗,“按结果”领工资
百融智能中报显示,受外部因素影响公司总收入波动,但AICC业务同比增长52%。其已在金融场景打磨能力并向多行业复制,采用RaaS按结果收费模式,还提出“技术重构型AI Roll - up”概念。
将 Pod 作为 worker 而非智能体:在 Kubernetes 上重新思考 AI 智能体的部署单元
在CNCF博客文章中,Lin Sun介绍kagent项目工作,认为Pod可能是智能体执行单元,却不适合作为部署、身份标识或生命周期单元。探讨了两种智能体部署方法及利弊,还提及新部署模式影响。
一个Markdown就是一名员工!YC CEO给年轻人的忠告:现在一个人能顶400人,大厂中层最该被AI替换
YC总裁Garry Tan在深度对谈中表示,传统SaaS模式或失效,个人开发者效能因AI提升。他强调创业别追热点,应关注兴趣与独特知识,还指出大公司中层官僚体系未来可用Agents替代。
从“卷模型”到“算总账”:AI 产业竞争开始拼什么 | 请回答 WAIC 2026
WAIC 2026热度高涨,InfoQ直播间追问‘AI正在重写什么’。与会嘉宾讨论AI产业新阶段变化,如从‘看能力’到‘算总账’,认为模型重要性方式已变,还探讨了AI原生产品定义、AI Infra影响及未来关注方向。
让VLA真正跑上机器人:北大团队开源Jetson-PI,Jetson Orin控制频率提升8.66倍
文章聚焦让VLA模型在机器人上高效运行难题。北大等团队提出Jetson - PI方案,从异步推理算法等三层面优化,在Jetson Orin上控制频率提升8.66倍,推动具身智能向工业应用跃迁。
斩获近5w star!这个开源AI工具让你30 秒搞定“过去30天真相”!
信息碎片化时代,last30days开源AI工具聚合各平台“人群智慧”,按真实人群参与度打分合成摘要。它能搜索多平台,v3版有智能搜索等新功能,输出HTML摘要,优点多且易上手。
VC、品牌顾问、编剧,正在批量把自己做成AI
AI发展中普通人使用门槛抬高,供需错配。5月19日袋袋(Profy)上线,专家说出经验就能封装成“数字专家”。它有四层能力和独特架构设计,让判断力独立流通,赋能普通用户。
全球首个AI专家市场上线!把你的绝活打包,数字分身7x24小时变现
全球首个AI专家市场「袋袋」上线,降低「数字分身」变现门槛。非技术专家自然对话,技术大佬用CLI模式上传项目文件。买家可按需雇佣专家,获专业成品。袋袋有多项技术,保障安全且能自进化。
英伟达为何持续押注VASTData?AI存储正在成为新的“算力”|甲子光年
AI产业曾聚焦GPU,如今数据存储设施重要性凸显。VAST Data完成约10亿美元F轮融资,估值300亿美元,英伟达持续跟投。它重构AI数据基础设施,国内焱融科技有相似技术路线且具自主可控优势。