「应用基础设施」共找到 2475 篇相关文章
拒绝「降智、减配、乱收费」：面向LLM API的可信验证框架
大语言模型成AI应用基础设施，黑盒服务模式引发信任危机。研究者提出IMMACULATE审计框架，能在不暴露模型信息、仅1%额外开销下，验证黑盒LLM API执行完整性，检测违规行为，相关论文与代码已公开。
社区供稿 | GLM-4.5技术博客：原生融合推理、编码和智能体能力
文章介绍 GLM-4.5 和 GLM-4.5-Air，二者旨在统一推理、编码和智能体能力。在 12 个基准测试中表现良好，采用 MoE 架构等技术，还开源 slime 框架。文中展示其多方面应用，并说明使用方式。
吴恩达YC演讲：AI创业如何快人一步？
吴恩达在YC演讲为AI创业者建议，强调执行速度是衡量创业公司成功的重要指标。他探讨AI技术加速工程和产品反馈等，还谈及AI创业机会在应用层，给出提升创业公司速度的方法等。
北大联合阶跃星辰提出TensorCast：统一可编程管理大模型张量，推理「首字延迟」最高降低93.2%
随着模型规模增长、新应用兴起，大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast，解耦张量状态，复用管理能力，在多场景测试中表现出色，为大模型基建提供新范式。
当 Agent 开始接管工作流，企业最在意的三件事：安全运行、稳定交付、持续进化
Agentic AI 开发落地使基础设施问题凸显。AI 产业转向重视模型部署等，CPU 受关注，云计算角色转变，容器重要性凸显。Agent 应用规模化落地，AI 负载变化，Agent Infra 要解决四个问题，云和 CPU 任务也在改变。
OpenAI刚刚发布GPT-5，免费使用、疯狂屠榜，一夜改写AI历史
今天凌晨1点，OpenAI发布GPT - 5，采用内嵌式三位一体集成架构，有创新的实时决策路由机制。免费版ChatGPT可使用，有额度限制。测试显示其在多领域大幅超越前代，应用开发能力强，今日向部分用户推出。
硅基流动完成新一轮数亿元融资，打造开发者首选生成式 AI 开发平台
硅基流动完成数亿元 A 轮融资，由阿里云领投。创始人袁进辉称业务因开源大模型崛起和算力需求激增爆发式增长。公司推出高性能推理引擎等，产品服务多个行业，未来将深耕创新、推动 AI 应用。
1万块GPU砸向欧洲！老黄怒怼AI末日论：全球首个工业AI云来了
巴黎GTC大会上，黄仁勋表示AI是伟大平等工具，驳斥AI致大裁员预测。英伟达卖1万块GPU建工业AI云，还宣布DGX Lepton项目。此外回顾AI发展，从感知到具身智能，介绍其应用及加速计算等成果。
10w人看过的龙虾量化系统，评论区骂最多的问题，我花2天补上了。
上一篇龙虾量化系统文章获10w+，评论指出数据是短板。作者经研究找到QVeris，它是统一数据接口平台，使用简单。作者以金融领域为例介绍其用法，还测试其在其他领域的能力，认为它是AI时代的数据基础设施。
Clawdbot 之后，我们离能规模化落地的 Agent 还差什么？
OpenClaw爆火，但在企业和商业环境中存在昂贵、不可控等问题。Monolith砺思资本技术沙龙探讨Agent规模化落地难题，指出需关注稳定性等指标，还分析了数据成本、训练速度、基础设施、状态管理等方面的困境与解决思路。