「Token压缩技术」共找到 3628 篇相关文章
卡帕西没做完的,开源社区48小时搞定了!完全体知识库,token省70倍
Karpathy分享的个人知识库爆火,48小时后开源社区推出Graphify工具。它零配置、全模态、本地跑,能自动构建知识图谱,省71.5倍token,还全平台适配,降低了上手门槛。
卡帕西点赞Transformer内置计算机!每秒3万Token吞吐,拿下世界最难数独
当前大模型推理顶尖但精确计算不足,Percepta团队在Transformer权重里内嵌可执行程序,通过2维注意力头设计提升推理效率,能在普通CPU上实现每秒3万+Token的流式输出,还精确求解了世界最难数独。
Data Agent 落地挑战:忽略技术框架、语义能力和运营体系,投入可能打水漂
Data Agent 落地挑战大,90% 难点源于软件工程,统一语义层建设是关键。企业若忽略场景聚焦、技术框架迭代能力、语义模型和运营体系,投入可能打水漂。掌握相关要素,才能让 AI 代理落地应用,提升企业数据智能化效率。
养虾人狂吃国产模型!4.19万亿Token调用量激增34.9%超越美国
根据OpenRouter数据,上周中国大模型周调用总量飙升至4.19万亿Token,再度超越美国登顶全球。中国产品在全球大模型调用量Top 5中占三席,国产大模型受青睐,但在速度和价格方面仍待提升。
专访希姆计算陈炜博士:“技术与人才标准”双轮驱动,推动 RISC-V 生态繁荣
在2025 RISC-V中国峰会期间,希姆计算陈炜博士接受专访,介绍RISC-V在AI领域布局,提及希姆计算推动技术标准制定的贡献与挑战,还阐述国内人才缺口及培养标准,认为技术与人才标准相辅相成。
Agent重塑软件与互联网产业新范式,2026奇点智能技术大会初版日程出炉!
4月17 - 18日,CSDN与奇点智能研究院联合举办的「2026奇点智能技术大会」将在上海举行。大会云集顶尖机构与企业一线AI实践者,围绕前沿议题分享,还将首发《AI原生软件研发成熟度模型(AISMM)》白皮书。
如何选择最佳多模态大模型压缩方案?哈工大、度小满开源EFFIVLM-BENCH基准测试框架
金融科技智能化转型中,LVLM部署受算力瓶颈制约。哈工大与度小满联合开源EFFIVLM - BENCH基准测试框架,能为多模态大模型压缩方案出具‘体检报告’,还揭示LVLM加速复杂性,推动技术发展。
推理时间减少70%!前馈3DGS「压缩神器」来了,浙大Monash联合出品
在AR、VR等领域,3DGS是新视角合成(NVS)领域备受关注的技术方案。现有前馈3DGS模型存在编码器容量有限等问题,ZIP Lab和Monash团队引入信息瓶颈原理,推出轻量级模块ZPressor,有效解决信息过载难题。
OpenAI发布GPT-5-Codex:独立编码7小时,能动态调整资源,token消耗更少
OpenAI发布专用于编程的GPT-5-Codex,属GPT-5特殊版本,有即时协作和独立执行的‘双模’特长。它能动态调整资源,token消耗少,擅代码审查。文中还介绍其命名由来及编程智能体竞争情况。
OpenClaw引爆纽约集会,虾教日烧10亿tokens!老黄认证:史上最强软件
OpenClaw在全球掀起热潮,黄仁勋称其为史上最强软件。多地活动火爆,有人日烧10亿tokens。现场人们养AI员工,还暴露出网络安全问题。它或成消费级AI智能体转折点,引发行业变革。