「超低延迟」共找到 3034 篇相关文章
为什么顶尖投行都选择了 Rogo 这个金融 Agent？
全球投行业务依赖大量初级分析师做重复性劳动，金融工作对 AI 有零容错、数据私有、工作流复杂的三重门槛。Rogo 由普林斯顿校友创立，嵌入 AI 能力服务超 50 家顶级机构，已获三轮超 1.65 亿美元融资。
4 个月狂飙 22k Star，这本书凭什么？
Github上超火的开源项目《LLMs-from-scratch》中文版4月上市，4个月涨超22k Star。作者实操搭建类GPT - 2模型，涵盖大模型构建全流程。用PyTorch开发，代码少且有注释，对初学者友好，豆瓣评分9.3。
台积电不相信AI有泡沫
台积电2025年四季度财报多项指标超预期，2026年资本开支大幅上涨。其3nm制程和先进封装优势明显，产能供不应求。AI算力需求爆发让英伟达成新大客户，预计2026年超苹果，台积电未来营收增长可观。
Kimi K2.5登顶开源第一！15T数据训练秘籍公开，杨植麟剧透K3
Kimi K2.5登上Hugging Face热榜榜首，下载超5.3万。它主打Agent能力，成绩超GPT - 5.2等闭源模型，性价比高。官方技术报告公开其用15T数据训练，还搭载Agent Swarm架构，团队还剧透了Kimi K3。
芯片团队规模近3000人！小米扩张自研芯片版图
8月24日小米举行玄戒芯片技术沟通会，公布三颗自研芯片：AI旗舰SoC玄戒O3、端侧AI加速芯片玄戒O100、智驾高算力AI芯片玄戒D100。小米重启大芯片研发五年多，投入超210亿，芯片团队近3000人。
全球首个具身智能开放平台来了！让大模型长出“身体”，像人一样自然表达交互
魔珐科技发布全球首个具身智能3D数字人开放平台魔珐星云，能让大模型‘长出身体’，实现自然表达交互。该平台突破了‘高质量、低延迟、高并发/低成本’的不可能三角，还可驱动虚拟和真实具身。
Andrej Karpathy 盛赞！斯坦福团队新作，让Llama-1B 实现毫秒级推理
斯坦福Hazy Research团队将开源模型Llama - 3.2 - 1B前向推理整合为“Megakernel”，把推理延迟大幅降低，显存带宽利用率显著提升。团队指出当前主流LLM推理系统在小batch、极低延迟场景下低效，提出Megakernel以重构执行方式。
火山引擎 veFuser：面向扩散模型的图像与视频生成推理服务框架
近年来扩散模型在图像和视频生成领域取得突破，但 DiT 模型推理面临计算量大、模型多样、实时性需求等挑战。火山引擎推出 veFuser 推理框架，能在图片和视频生成上实现低延迟、低成本的高质量体验，且未来会持续迭代。
超硬核，腾讯给力！
文章介绍腾讯朱雀实验室开发的AI安全红队测试平台A.I.G，能对AI系统做全面“安全体检”，覆盖AI基础设施、MCP、LLM等风险。它功能实用，安装简单，适合折腾AI服务或MCP的人。
Agent 元年，小厂碎步快跑反超
2025 年被视为 Agent 元年，AI 从“助手”走向“员工”。飞猪“问一问”出圈，虽小厂在模型、技术上不占优，但 AI Agent 落地门槛降低，小厂抓住场景和体验，或在 AI 时代弯道超车。