加速框架」共找到 2172 篇相关文章

算法论文8

DeepSeek点燃大模型效率之争,阶跃火速接棒:JetSpec让大模型解码速度最高提升近10倍

近期,DeepSeek发布DSpark,阶跃星辰发表JetSpec论文,二者聚焦大模型推理效率。DSpark关注验证效率,JetSpec从Draft生成本身入手。结果显示,二者都有加速效果,共同表明推理效率正成Agent落地关键变量。

量子位
新闻资讯7

跟Claude谈个恋爱怎么了?Nature最新研究:真能给人聊傻了

Nature旗下研究指出,聊天机器人持续顺着、理解、陪伴用户,可能让正常人怀疑现实。研究总结出“放大螺旋”框架,含语言镜像、超个性化、谄媚三组件,叠加会成妄想放大机。OpenAI也关注此问题。

量子位
新闻资讯7

英伟达把8个AI和8台机器人关在一起,它们学会了自己做实验

英伟达高级研究科学家公布“ENPIRE”项目,8个AI与8台机器人组成科研团队,能自主做实验。研究测试三种coding agent,Codex表现最佳。系统分两阶段,虽有局限但有新发现。

DeepTech深科技
产品应用7

AI 企业 Day 0 出海,如何少走技术弯路?

InfoQ与多家AI出海企业交流发现,很多企业放弃常见Agent平台和流行框架,选择自研全栈平台。GMI Cloud升级产品,构建完整基础设施图谱,解决全球算力部署、模型调用和Agent商业化落地问题。

InfoQ
开源动态8

英伟达MIT出手!华人团队重磅开源,大模型推理内存暴降10倍

英伟达、MIT、浙大华人研究者联合推出TriAttention,核心是在pre - RoPE空间用Q/K三角集中度估计KV token重要性,保留关键部分。它使内存消耗降10倍,吞吐量提2.5倍,还提供vLLM集成和MLX实验性支持。

新智元
新闻资讯7

最新消息:美国批准英伟达H200出口10家中国企业,黄仁勋这趟没白来

路透社消息,美国批准英伟达向10家中国企业出口H200芯片,联想和富士康成分销商。黄仁勋强调中国市场重要,预言2026年技术大爆发。业内分析此次松绑或因商业压力等,对国内AI产业有积极影响。

开源AI项目落地
新闻资讯8

老黄秘密武器曝光:AI一夜设计芯片,顶人类顶级工程师10个月!

英伟达在GTC大会揭露用AI设计GPU,原本8名工程师10个月的任务,AI一夜完成。其开发NB - Cell、Prefix RL等工具,还推出内部大模型Chip Nemo和Bug Nemo,不过完全端到端自动化设计仍有距离。

新智元
推荐文章7

2026跳槽暴富指南:这些公司的期权,可能比你的年薪值钱10倍

2026年为中国科技公司IPO大年,众多公司上市后员工获丰厚收益。文章列举小红书、月之暗面等公司,分析其期权价值与上市可能性,给出评估期权的框架及投资风险提醒。

AI Reading Hub
算法论文8

迎接范式革命:最新、最全的大模型Latent Space综述,NUS、复旦、清华等联合出品

大模型核心计算正从显式空间转向潜在空间,现有文献缺乏统一视角。NUS、复旦等机构的综述《The Latent Space》从五大视角构建框架,阐述潜在空间基础、演进、机制、能力,指出挑战与未来方向。

机器之心
7

全网玩疯的SBTI,挤爆了服务器!网友用Claude手搓复刻版

全网被新型SBTI人格测试刷屏,服务器被挤崩。它解构MBTI框架,精准捕捉年轻人情绪。开发者用Claude Code完成逆向复刻,还做了改进。如今做产品门槛降低,未来SBTI或由AI打造。

新智元