「流处理架构」共找到 2822 篇相关文章
大厂离职后，白天是保安，夜里是 AI 创造者
本文讲述杨晨从大厂运营离职后成为保安，白天观察人间百态，夜里用AI搞创作。他用AI为家人、朋友做工具，还帮公司做定制化工作流，赚了点小钱。他也想记录普通人故事，认为大家可借AI改变生活。
Nature子刊：港大等首提下一代AI硬件系统，能耗锐减57.2%
港大、港科大与西电团队登上Nature子刊，攻克存算一体架构中模数转换器（ADC）能耗高难题。利用忆阻器可编程特性打造“智能标尺”，使AI芯片功耗降57.2%、面积缩30.7%，为下一代AI硬件开辟新路。
比 Context7 更靠谱：Exa-code 靠 1B+ GitHub 与 Stack Overflow 减少幻觉
Exa团队索引超1B+文档、GitHub仓库等内容，exa - code对其混合搜索、分块处理。它是首个为编码代理制作的Web规模上下文工具，在代码幻觉评估中表现超流行网页搜索工具，核心技术有专为AI的搜索引擎和高效返回上下文。
DeepSeek一句话让国产芯片集体暴涨！背后的UE8M0 FP8到底是个啥
DeepSeek V3.1发布后，官方留言提及新架构和下一代国产芯片，引发AI圈轰动，国产芯片企业股价上涨。文章介绍了UE8M0 FP8概念，分析其适配国产芯片原因，还猜测适配的芯片厂商，指出代表国产AI走向软硬协同。
16 年老程序员用 Claude Code 搞副业：我只手敲了 1000 行，剩下 95% 代码靠自动生成
Anthropic公司的AI编码助手Claude Code推出4个月吸引11.5万开发者，单周处理代码量达1.95亿行，预估年化收入约1.3亿美元。开发者Indragie用其构建macOS应用，2万行代码中手写不到1000行，还分享使用技巧与体验。
离谱！晒出Claude退订截图就送你200刀：Cursor抢人抢疯了
Cursor员工Lauren公开喊话，让考虑切换到Cursor加Grok Bot的人发取消其他订阅截图，送一个月免费Ultra（每月200美元）。大量网友行动，但很多人私信石沉大海，有人吐槽处理慢。这或是Cursor借被SpaceX收购之势进攻Claude Code。
蚂蚁开源 x SGLang Meetup技术回放解读系列之面向DeepSeek系列模型的深度优化与实践
文章是对蚂蚁开源x SGLang Meetup中「蚂蚁Theta面向DeepSeek系列模型的深度优化和实践」分享的解读，详细介绍了在H20-96G上对DeepSeek系列模型推理的优化方案，包括Prefill和Decode阶段的优化、通信优化、观测诊断等，并给出了评测结果。
大模型思维链推理速度倍增！——RoT新框架把思维链「画」进隐空间
随着大模型规模扩展，思维链（CoT）成处理复杂推理任务标准范式，但显式CoT依赖长序列生成，隐式CoT面临优化挑战。腾讯提出RoT新框架，利用视觉编码器将文本推理步骤转为视觉嵌入，实现Token压缩与推理加速，且过程可分析。
阿里云Tair KVCache仿真分析：高精度的计算和缓存模拟设计与实现
阿里云Tair KVCache团队推出Tair - KVCache - HiSim，这是面向分布式多级KVCache管理的高保真LLM推理仿真分析工具。它能在通用CPU上高精度预测性能，支撑计算选型、存储规划和调度协同等决策，还介绍了其架构、组件、验证及性能评估等内容。
英伟达说，小语言模型（SLM)是智能体的未来
英伟达论文指出小语言模型（SLM）是代理人工智能未来。SLM参数小于100亿，可装在消费电子设备。英伟达认为其强大、适合代理系统且经济。微软、英伟达等多家厂商的小模型表现出色，文中还分析了SLM优势及代理架构。