「成本性能」共找到 6971 篇相关文章
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
Transformer开始构建三维世界：开源模型几张图片秒级生成可探索3D场景
影溯将最新研究成果做成免费3D捕捉工具Crystal空间相机，背后技术QuerySplat已开源。其模型Topos - Lite改变组织三维空间方式，少量图片就能秒级生成3D场景，还能扩展容量。影溯团队经验丰富，技术应用场景广。
单季利润2610亿元！三星的“AI印钞机”，火力全开
4月7日三星公布一季度业绩，营业利润57.2万亿韩元，DS部门贡献超七成。HBM业务营收大增，通用DRAM量价齐升。三星从HBM3E追赶者成HBM4领先者，但产能转移致产业链裂痕，下游产品纷纷涨价。
狂发钱的元宝派，除了领红包还能用来干嘛？
元宝派是腾讯的AI社交新实验，用10亿新春红包引流。它类似群聊，有24小时在线的“元宝”。能当裁判活跃群聊，还能做图、看文件等，融入搭子文化元素，依托腾讯生态拉不同好友入群。
减少检索增强生成（RAG）语义缓存中的误报：以银行业为例
文章围绕检索增强生成（RAG）语义缓存展开，指出其虽能提升效率，但设计不当会产生假阳性。以金融服务FAQ系统为例，经多组实验，发现缓存设计比模型优化更能减少假阳性，还给出未来架构路线图。
当英伟达收购Groq引发行业震动，中国存算一体赛道正在发生什么？｜甲子光年
2025年底英伟达200亿美元收购Groq，让存算一体成产业刚需。传统GPU受存储墙限制，算力利用率低。Groq采用SRAM成本高，而亿铸科技以消费级显卡价格提供H卡性能，兼容CUDA，或成产业真需求。
奥特曼出新招防挖角！员工期权变钞票，按5000亿美元估值兑现
被挖怕了的奥特曼开启新一期员工期权兑现计划，按5000亿美元估值兑现。这一计划若推进，既能留人，也能推高OpenAI估值。目前OpenAI发展态势好，但也面临与微软谈判等挑战。
【哥飞分享】
Reddit新手如何通过一篇帖子狂赚2000+Karma？Reddit的公平性让新手也能获得曝光，选择合适的子社区和构建有趣的文案是关键。Reddit的流量分配机制让内容质量成为获得曝光的核心，而好的文案能规模化内容的曝光量。
肖涵：2026 年的 AI 搜索就是智能体记忆 | Elastic 中国 AI 搜索技术大会
2026 年智能体记忆成 AI 基建新战场，虽概念不新但获前所未有的紧迫感。因智能体任务变长但记性差，加记忆后又有记不住该记、忘不掉该忘的问题，遗忘成最大难题，产品分三条技术路线。
又 3 个新 AI Coding 拿了融资，AI 找 Bug 也火了
AI Coding成今年增长最快应用领域，近期又有3个产品获融资。印度Emergent完成2300万美金A轮融资；Rocket.New获1500万美金种子轮融资，欲成综合Agent系统；Vibecode定位App领域，拿940万美金种子轮融资。此外，AI找Bug也火了。