「软件演进」共找到 827 篇相关文章
DeepSeek 新模型曝光,即将发布
据彭博社消息,年初凭 R1 模型震动全球的 DeepSeek 正开发全新 AI Agent 模型,创始人推动团队在今年四季度发布。该模型能代表用户执行多步骤操作、基于过往行为学习改进,行业也在向 Agent 软件转型。
一年成爆款,狂斩 49.1k Star、200 万下载:Cline 不是开源 Cursor,却更胜一筹?!
AI编程助手市场看似火热,实则盈利艰难,如Cursor等工具亏本运营。Cline选择开源,坚持软件免费、服务变现,一年成爆款。其创始人分享了产品理念、技术选型、市场定位等,还探讨了MCP生态、编程智能体发展等话题。
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题,因错误使用`c10::Float8_e4m3fn`数据类型,未用硬件加速指令,通过软件调用致性能下降,现已修复,vLLM也应用此修复。
Tair 短期记忆架构实践:淘宝闪购 AI Agent 的秒级响应记忆系统
本文从淘宝闪购与千问合作的‘一句话点外卖’项目出发,介绍 Tair 在 AI Agent 记忆管理中的数据模型设计、压缩策略与并发控制等关键实践,展示其在低延迟、数据建模、并发安全和弹性抗压等方面的能力。
从狂热到工程、组织实践,OpenClaw这阵风能刮多久?
OpenClaw在中国开发者圈引发热潮,英伟达黄仁勋赞誉其为增长最快的开源软件。3月21 - 22日OpenClaw中国行将在12座城市同步举行,活动围绕其规模化使用、企业落地等具体问题展开,标志着其从热梗走向工程实践。
企业广泛采用 Agentic AI,但领导层理解滞后
Sauce Labs调查显示,97%公司采用或计划采用Agentic AI用于测试,但61%领导层不完全了解软件测试需求。调查揭示矛盾现象,如受访者既看好自主测试又对数据访问不安。还指出团队与高管期望有差异,需解决不一致。
性能最高提升7倍?探究大语言模型推理之缓存优化
文章探讨大语言模型推理缓存优化技术演进与未来展望,介绍了主流推理框架vLLM、SGLang,分析KV Cache、Paged Attention、Prefix Caching等技术的优化点,还提及LMCache、DeepSeek的缓存技术,最后提到MCP赋能可视化OLAP智能体应用。
看完快手这场沙龙,我对生成式推荐的判断变了
作者参加快手技术沙龙,认为生成式推荐正重构推荐系统底座。快手在生成式推荐领域体系化演进,如OneReason让推荐系统学会思考,Pool - Rec解决算力问题,OneSearch V2和GR4AD用于场景实践,还举办LLM - Rec挑战赛。
Transformer 中的专家混合模型 (MoE)
文章介绍Transformer中专家混合模型(MoE),它能解决稠密模型扩展瓶颈。阐述其优势,如计算高效、适合并行等,还介绍在transformers库中支持稀疏架构的演进,包括权重加载重构、专家执行后端、专家并行及训练方案。
上下文工程又进化了:Harness实现AI完全自主化
近期Harness Engineering讨论火热,Harness是围绕AI模型的支撑架构,Anthropic用其突破AI局限,解决AI完成复杂任务时的偷懒问题,还通过多智能体架构用于前端设计、软件开发,经实战检验效果良好,后续还对其进行简化。