「超低延迟」共找到 3051 篇相关文章
英伟达力荐，小团队两个月开源一款「光速级」智能体推理引擎
智能体时代算力需求庞大，LightSeek Foundation 小团队 2 个月打造大模型推理引擎 TokenSpeed，有 TensorRT LLM 性能、vLLM 易用性，受英伟达力荐且已开源，为智能体负载提供近「光速级」推理能力。
构建分层的 Agentic RAG 系统：具备自主纠错的多模态推理
企业 AI 团队面临 RAG 系统在处理结构化与非结构化数据时的难题。本文探讨用分层多智能体编排解决“模态鸿沟”，介绍 Protocol - H 架构，阐述组件、机制、实现与集成，经基准测试验证其优势，还提及未来研究方向。
马斯克22万张GPU救场后，Claude勉强恢复“三个月前体验”，Gary Marcus却警告：GPU将严重过剩，很快不值钱
当地时间5月6日，Anthropic宣布用SpaceX算力，提升Claude服务能力。此前其算力紧缺致口碑下滑，此次合作让Claude恢复到3个月前体验。同时，纽约大学学者警告GPU将过剩，而Anthropic发新功能争企业客户。
700多个「坏模型」喂出AI测谎仪？Anthropic审计神器让AI自曝黑料
Anthropic故意训练近700个「有问题」模型，训了LoRA适配器（IA）让模型自报家门。IA在AuditBench平均成功率59%，但也存在幻觉、成本高、训练分布无指南等局限。
AI编程代理的「插件时代」来了：一个程序员的.claude目录，一天涨了5500星
过去一周，GitHub Trending超半数项目围绕AI编程代理做‘技能扩展’。如Matt Pocock开源`.claude`目录配置文件，一天获5500星。多个同方向项目涌现，标志AI编程工具竞争焦点转向生态。
当200位具身从业者被拉进同一个屋子
量子位等联合发起沙龙，近200位具身从业者探讨具身智能从实验室走进物理世界的问题。乐聚工程师指出具身数据瓶颈，蚂蚁灵波郑可成介绍模型，上海交大李永露分享评测基准，圆桌对话探讨数据挑战与破局路径。
ICLR 2026 | ProSafePrune：一剪见效，告别大模型过度防御
合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。
当 70% 的人将拥有智能体，谁来给 AI 建底座？澜舟科技周明：大模型落地的最后一道墙是“可信 AI”
4月16日澜舟科技春季沟通会，创始人周明分享智能体到数字员工演进等内容。指出AI进入落地新阶段，提出可信AI和智能体工程，展示相关技术体系、产品矩阵及行业方案，回答企业级AI现实问题。
不再迷信Hackathon，把Agent推翻重做了4次！Notion负责人复盘：做AI产品如何避免“逆流而上”？
Notion负责人复盘Agent开发历程，指出AI替代的是流程。他们将模型、产品和权限接入同一框架，历经多次重构，还探讨了组织管理、评估体系、软件工厂等内容，分享对CLI和MCP的看法及产品定价策略。
神秘模型屠榜多日、碾压Seedance 2.0！背后竟是阿里大招：新部门首作实锤，引爆股价拉升
近日，神秘模型 HappyHorse-1.0 登顶 Artificial Analysis 视频模型排行榜。4 月 10 日，阿里确认它是 ATH - AI 创新事业部自研产品，正在内测。该模型技术亮点多，若开源或使 AI 视频行业格局生变。