「线性扩展效率」共找到 1689 篇相关文章
FriendliAI获2000万美元,以加速AI模型推理工作负载
专注AI推理的初创平台FriendliAI获2000万美元种子扩展轮融资,资金用于加速平台开发。其专有推理优化技术可降低模型运行成本和能耗,能为用户省90%的GPU成本,合作客户广泛。
比 996 还狠!让面试者8小时复刻出自家Devin,创始人直言:受不了高强度就别来
Cognition 公司面试要求面试者 8 小时复刻自家 Devin,其 CEO Scott Wu 直言受不了高强度就别来。文章还介绍了他的成长经历、创业看法,以及 Devin 特点、业务指标、未来格局等,也提及收购 Windsurf 事宜。
DeepSeek刚提到FP8,英伟达就把FP4精度推向预训练,更快、更便宜
DeepSeek提及针对国产芯片的FP8量化设计,引发对大模型量化策略关注。不久后英伟达发力低精度量化,将NVFP4策略拓展到预训练阶段,其方案能解决核心挑战,实验证明NVFP4在大规模训练中可行。
教AI「择偶生娃」,复刻自然演化!上交校友提名最佳论文
Sakana AI受自然演化启发提出全新模型融合进化方法M2N2,引入‘择偶机制’让AI‘竞争、择偶、繁衍’。此研究获GECCO 2025最佳论文提名,M2N2表现优于其他算法,还避免‘灾难性遗忘’。
唯快不破:上海AI Lab 82页综述带你感受LLM高效架构的魅力
大语言模型性能提升但成本高,制约落地应用。上海AI Lab联合多家机构总结440余篇论文,形成82页综述,将LLM高效架构分为7类,探讨最新进展,还涉及线性化技术、硬件实现等内容。
思维链可无限延伸了,MIT等打破大模型上下文天花板
MIT等机构提出新架构Thread Inference Model(TIM),配合专用推理引擎TIMRUN,把推理过程变为树状递归子任务结构并修剪子任务,让模型突破输出窗口限制实现长程推理,实验验证了其性能。
专访希姆计算陈炜博士:“技术与人才标准”双轮驱动,推动 RISC-V 生态繁荣
在2025 RISC-V中国峰会期间,希姆计算陈炜博士接受专访,介绍RISC-V在AI领域布局,提及希姆计算推动技术标准制定的贡献与挑战,还阐述国内人才缺口及培养标准,认为技术与人才标准相辅相成。
Meta华人天才毕树超「叛逃」预言:OpenAI未竟交互革命,暗藏万亿赛道
Meta科学家毕树超在演讲中揭秘AI进化真突破,认为更好更快造数据是关键。他指出AI原生交互领域若有新突破,或催生万亿级公司,语音和视觉将成重要部分,还分享了AI进化时间线及面临的问题和未来图景。
传言:华为版 DeepSeek R2 本月发布
据 Huawei Central 报道,DeepSeek R2 可能本月 15 至 30 日发布,运行在华为 Ascend 910B 集群,硬件利用率 82%,算力 512 PetaFLOPS FP16,效率达 A100 的 91%,将与 ChatGPT 5 竞争,但消息未证实。
Github斩获1.8K 星!!再见了按键精灵,Windows-MCP开源了!
今天介绍超酷开源项目Windows - MCP,它让AI与Windows系统互动,支持Win7到Win11。功能强大,不挑大模型,工具全、轻量开源、扩展性强。还给出安装步骤,不过使用时要谨慎。