「超低延迟」共找到 3055 篇相关文章
DeepEval：LLM 应用评测不再玄学，让大模型评测像写单元测试一样简单
在大模型应用开发中，科学、自动化评测 LLM 输出质量是难题，人工评测效率低。DeepEval 是 Confident AI 团队开源的 LLM 评测框架，能用极简代码让评测像写 pytest 一样自然，内置多种评测指标，支持批量评测等。
大模型推理的“左右脑”革命！华为盘古Embedded凭昇腾之力，让快慢思考合二为一
传统大模型推理面临长链条深度思考与低时延反馈的矛盾，华为盘古团队提出盘古Embedded模型。基于昇腾NPU，其采用双系统认知架构，集成“快思考”与“慢思考”双推理模式，实现推理效率与精度协同提升。
英伟达重返中国！6月大量生产特供AI芯片，价格暴降40%
路透社消息，英伟达为突破美出口限制，将为中国推特供AI芯片，6月量产，价格降40%。该芯片基于RTX Pro 6000D，简化设计以控成本和符合管制。虽计算力低，但CUDA生态有优势。
AI接管程序员！Anthropic创始人自曝行业末日时间表
Anthropic创始人Dario Amodei预测，AI三到六个月内或能编写90%代码，一年后可能编写所有代码。谷歌超25%代码已由AI生成。不过人类短期内仍在代码设计等方面重要，程序员要适应与AI协作。
地平线余凯：80%的精力思考死门在哪
2025年4月18日，地平线举行发布会，创始人余凯分享战略思考方法论与“反共识”思考。他认为公司应在无竞争处竞争、不冒险，智能驾驶重功能价值，AI时代产品逻辑有别互联网，还提及技术变革战略、“平权陷阱”及高阶智驾基础。
破除人形崇拜！京东用“狼族”军团重做物理AI
当行业狂热追捧人形机器人时，京东物流针对物流仓储非标环节自动化渗透率低的痛点，推出「狼族」异构机器人集群搭配超脑3.0智能中枢的全链路物理AI方案，已实现规模化落地，兼顾效率与经济性。
又一家首店落地东城！机器人咖啡师，24小时不打烊→
近日，京东旗下七鲜咖啡首家24小时智能无人咖啡店落地北京银河SOHO。饮品全流程由机器人执行，单杯制作超不过30秒，还能并行制作多杯。它兼顾标准出品与个性体验，也切中现代城市生活痛点。
电脑操作、技能、连接器、工作伙伴：豆包的牌来了
最近字节有两个豆包相关新闻，一是在训练超大模型，二是反对模型蒸馏。豆包上线大批 Agent 相关工作任务能力，覆盖办公场景，如电脑操作、技能商店等，过程流畅且可观察，还更新移动端，实现远程控制。
困住医疗AI的死循环，终于有国产玩家跑通了
文章指出医疗AI行业因数据、模型、场景闭环断裂陷入困境，整体渗透率低。讯飞医疗的星火医疗大模型V3.5评测和临床落地表现出色，其构建自强化循环体系，跑通死循环，或使行业马太效应渐显。
刚刚，国产Agent模型闯入全球第一梯队！限时免费
昆仑万维发布SkyClaw-v1.0及其轻量版SkyClaw-v1.0-lite Agent模型，性能达全球第一梯队，价格仅主流顶尖模型一半甚至更低，适配主流Agent框架，还兼容OpenAI接口，现限时免费，后续将逐步开源。