「推理加速技术」共找到 4926 篇相关文章
Meta打碎Transformer 8年铁律！改写AI最底层规则，模型首次冒出潜意识
Meta推出「自由Transformer」新模型，打破自2017年以来GPT模型核心规则，在解码器引入潜在随机变量Z，增加“潜意识”。仅增约3%计算开销，在多测试中超越大规模模型，或开启后自回归时代。
6K+ star神器！Docker也能跑桌面了，安全隔离还能硬件加速，太绝了！
文章介绍开源工具`x11docker`，它专为 Docker、podman 等设计，能让图形应用在容器正常运行，增强隔离性、避免安全隐患。该项目获 6K+ Star，功能丰富，安装使用简单。
69 页最新报告丨AI Agent 圣经：智能体的终极指南
AI Agent 定义下一轮科技创新浪潮，众多公司积极布局。CBINSIGHTS《AI Agent Bible》报告梳理其前景趋势，含六大预测与生态版图，解析市场格局等，还展示智能体重塑企业运营方式。
京东AI一揽子开源！超多核心项目全开源，GitHub万star项目也有新进展了
京东系统性开源系列AI能力，从大模型到Agent等。JoyAgent 3.0升级，开源DataAgent和DCP模块；OxyGent多智能体框架让开发者自由组合。还有京医千询2.0等，意在推动AI在各行业落地。
LennyBot背后：一个价值1600万美元的"高级FAQ"
著名播客主Lenny Rachitsky推出LennyBot，可就其节目内容聊天并导流，背后公司Delphi获红杉1600万美元A轮融资。作者体验后认为它是高级FAQ，分析Delphi商业模式，指出赛道类似千播大战，红杉赌的是时间窗口。
AISPM与AI防火墙--是产品不同，还是名字不同？
文章探讨AISPM与AI防火墙是产品不同还是名字不同。介绍xSPM概念及AISPM定义，分析国内AI防火墙应对威胁能力，指出AISPM更强调过程管理，未来AISPM对维护AI安全至关重要。
Kubernetes环境中作业帮大模型服务流量调度优化实践
随着大语言模型应用渐广，Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案，整合成模型网关，具备五项核心功能，提升了资源效率、稳定性和易用性。
不看后悔！GitHub 开源 MultiTalk .8k star 强大的人语音＋图像绑定项目
MultiTalk 是 MeiGen‑AI 开发的开源框架，可从音频、图片和提示语生成多人对话视频。它解决传统视频制作痛点，功能亮点多，技术优势明显，应用场景广，与同类项目对比表现突出。
YC最新总结顶尖的提示词应该怎么写？
提示工程在大模型时代愈发重要，其核心在于提示词设计。近日，YC在播客分享从与大模型创业公司学到的提示工程实践，涵盖核心原则、进阶技巧、企业级实践、创业者模式等内容。
狂揽 18.9K star！这款开源、免费、功能超强的物联网 IoT 平台项目，太6了！
物联网技术成行业发展关键，但构建系统挑战大。开源项目ThingsBoard应运而生，提供一站式解决方案，功能强大，如规则引擎、告警管理等，安装部署简单，值得开发者尝试。