「端侧部署」共找到 780 篇相关文章
微软这支神秘的华人AI团队加入腾讯混元，曝与裁员无关｜独家
WizardLM项目创建者徐灿发文称团队离开微软加入腾讯混元。混元此前发布多款AI模型，WizardLM也发布过混元模型。该团队专注高级大语言模型开发，曾成绩斐然，但也面临模型部署挑战。腾讯大力投入AI，网友对此看法不一。
苏姿丰出手！Oracle下单5万颗AMD芯片，英伟达王座撼动
Oracle宣布2026年第三季度起在云基础设施部署5万颗AMD Instinct™ MI450系列GPU构建AI超级集群并持续扩容。AMD Instinct MI450系列GPU亮点多，此次合作是其与Oracle合作的深化，也被视为AMD挑战英伟达的关键突破。
容器可观测新视角： SysOM延时监控助力定位业务抖动原因
云原生场景下，资源超卖和混合部署使宿主机与容器化应用资源竞争加剧，引发内核级延迟问题。本文结合实战案例，介绍用ack - sysom - monitor Exporter分析定位内核延迟，还介绍了SysOM监控及解决系统延时的方法。
存储的超级周期，缺货潮将贯穿2026年？
近期存储市场火热，价格飞涨，下游厂商面临成本压力。缺货潮或贯穿2026年，因AI需求爆发，三大厂商减产DDR4等产能。其他厂商难补缺口，华邦虽有扩产计划但周期长。端侧AI发展对存储有新要求，华邦布局相关产品。
30分钟轻松掌握Cursor，快速提升开发效率和体验
本文通过在WebX老项目实践，验证Cursor用AI大模型能高效生成符合老旧项目规范的代码框架，显著提升开发效率与体验。还介绍其页面区域、AI聊天区功能，通过实战演示展示提效过程，最后提及可与MCP结合及OpenAI开源模型部署方案。
SDD-RIPER 团队落地指南：如何让整个团队在一周内跑通大模型编程
文章提供了 SDD - RIPER 团队落地方案，能让团队一周内跑通大模型编程，质量可控、效果可量化。阐述了推不动大模型编程的痛点及 SDD - RIPER 的解决办法，介绍了部署、实操流程和试点 SOP，还给出效果数据与常见问题解答。
谷歌迎来“DeepSeek时刻”！TurboQuant引爆AI圈、全球开发者疯狂复现：6倍无损压缩，内存股集体暴跌
谷歌研究院发布 TurboQuant 压缩算法，能在提升速度、保持准确性的同时，降低大语言模型内存占用，可将键值缓存压缩至少 6 倍，速度最高提升 8 倍。该技术无需额外训练，精度零损失。目前虽未大规模部署，但已引发内存股下跌。
AI PC进入爆发期，国产芯片能否在其中分得一杯羹？
AI从云端走向端侧，AI PC迎来爆发期。Arm虽有结构性优势，但在PC端进展慢。此芯科技推出此芯P1，联合多方打造开放平台，推动标准化和生态建设，产品也不限于AI PC，未来有望为国产芯片争得话语权。
超越Claude 3.5和o1！8B模型靠「分层投票+测试时训练」逆袭
近日MIT研究者发现测试时训练在大模型应对复杂推理问题时，能分解任务提升回答准确率。8B的lemma3模型经此方法，在ARC和BBH数据集上性能显著提升，超Claude 3.5等。但该策略部署效率低。
非Transformer架构的新突破，液态神经网络的推理小模型只用900M内存
谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。