「零延迟」共找到 572 篇相关文章

开源动态7

如何重现 DeepSeek 推理性能突破

DeepSeek-V3 是热门开源大模型,采用大规模 MoE 架构,优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化,对齐其推理系统性能,分享关键技术、不足与思考,还提及对 Qwen3 模型的优化策略。

InfoQ
新闻资讯8

自然意志发布Natura-1:面向物理世界的通用基础模型 | 5Y News

自然意志是专注物理世界通用智能的研究公司,本文正式发布其首个面向物理世界的通用基础模型Natura-1,介绍了模型技术方案、评测结果与发展路线。

五源资本 5Y Capital
算法论文8

吴恩达新作:87%推理token用不着,丢掉反而快3倍

吴恩达新作Prefix Sliding指出,模型推理时丢弃中间已贬值token,只保留前缀+滑动窗口,无需训练可提速3倍,配合RL训练能将推理轨迹扩展到10万token以上。该方法为Agent场景提供新思路。

PaperAgent
产品应用7

评论送书 | 我用扣子(Coze),五分钟搭建出一个客服自动应答智能体

文章以设计‘产品功能咨询智能体’为例,介绍用扣子平台搭建客服自动应答智能体的全过程,包括创建项目、工作流、搭建流程框架及试运行优化,还推荐了相关书籍。

AIGC开放社区
开源动态7

夯,还真的很不错,8.2k Star scroll-world,太丝滑~~~~

许多官网滚动特效不佳,scroll - world 让滚动驱动无切镜的品牌旅程。它通过生成镜头链、对齐接缝实现沉浸体验,还给出适用场景和接入方式,虽非零成本但复用了经验。

小华同学ai
新闻资讯8

以为Anthropic全是科学家?数据告诉你,他们要的是基础设施老兵

Fonzi AI人才工程主管Seb分析1680份Anthropic工程师简历,发现其核心人才是资深基础设施建设者。工程团队18个月从零膨胀,Google是最大人才池,博士仅占13.7%,头衔扁平化。

AIGC开放社区
推荐文章8

构建分层的 Agentic RAG 系统:具备自主纠错的多模态推理

企业 AI 团队面临 RAG 系统在处理结构化与非结构化数据时的难题。本文探讨用分层多智能体编排解决“模态鸿沟”,介绍 Protocol - H 架构,阐述组件、机制、实现与集成,经基准测试验证其优势,还提及未来研究方向。

InfoQ
算法论文7

AI根本守不住秘密!不依靠大模型的输出过滤才是铜墙铁壁

开发者常把秘密放系统提示词,以为安全。Swept AI和密西根大学团队测试发现,攻击者不断尝试,AI会泄露秘密。多种依赖大模型的防御方案失败,只有输出过滤能零泄露。

AIGC开放社区
产品应用7

马斯克深夜点赞!内容的下一站是:玩!

马斯克深夜点赞用 Loopit 制作的互动 meme,引发关注。Loopit 让用户体验从‘看’变‘玩’,实现双向交互。其融合 AI Coding 与多模态生成,构建 Runtime,解决延迟、状态同步等问题,潜力大。

AGI Hunt
8

从入门到用好 Agent Skills,看这一篇就足够了

文章是全面的 Agent Skills 中文指南,介绍其架构理念、机制、开发指南等。Claude Skills 价值被低估,它像通用 Agent 扩展包,非技术人员也能开发,还探讨了使用、开发时机与核心运行机制。

Founder Park