「注意力头」共找到 274 篇相关文章

开源动态8

Kimi K2.5登顶开源第一!15T数据训练秘籍公开,杨植麟剧透K3

Kimi K2.5登上Hugging Face热榜榜首,下载超5.3万。它主打Agent能力,成绩超GPT - 5.2等闭源模型,性价比高。官方技术报告公开其用15T数据训练,还搭载Agent Swarm架构,团队还剧透了Kimi K3。

量子位
产品应用7

我雇了个AI,替我读微信列表里“吃灰”的公众号文章

文章评测了AI工具语鲸,它像国产版NotebookLM和AI版今日头条,能处理文本、整合资讯。它可订阅多渠道账号,有订阅、频道等实用功能,网页端解析长文出色,但处理图文有问题,其团队背景强大。

量子位
算法论文8

头号玩家照进现实!NTU发布世界模型交互新范式,攻克主动操作难题

南洋理工大学MMLab团队推出Hand2World,让AI世界模型能真正互动。它摒弃旧有遮挡误导,用3D手部结构与射线编码解耦手与头运动,实现闭环持续交互,基于单目视频全自动标注,为AR、机器人交互铺路。

新智元
算法论文8

静态稀疏已死:Flux Attention 开启长文本 LLM 自适应推理新时代

文章指出长上下文LLM高效推理面临性能与效率难题,先介绍Elastic Attention打破静态稀疏桎梏,后重点阐述全新的Flux Attention,它将动态稀疏注意力范式升级为层级别路由,解决了算法与硬件的矛盾,在多方面实现突破。

深度学习自然语言处理
开源动态7

GLM-5登顶开源模型No.1!智力指数首破50大关,打平Opus 4.5

在Artificial Analysis评测中,GLM - 5成开源权重模型智力排名第一,是首个智力指数破50的开源模型,除代码能力外各方面表现出色。它集成DeepSeek稀疏注意力,参数规模大,擅长“搞钱”任务,幻觉率低且输出精简。

AI寒武纪
产品应用7

童年的滚球兽「走进」现实?华为天才少年创业,全球首个虚实融合的实时交互视频模型来了

Xmax AI 推出全球首个虚实融合实时交互视频模型 X1,通过手机摄像头实现虚拟与现实融合。它有四大玩法,操作简单。但面临多技术挑战,Xmax AI 团队实力强,给出硬核技术方案,愿景是让 AI 融入生活。

机器之心
开源动态8

Github 3.6k star,爆火开源「小红书 MCP」:一键登录、图文发布、搜索、评论全搞定

`xiaohongshu-mcp`把浏览器手工步骤封装成可编排工具,以Go编写,能在无头/有界面模式间切换。它解决小红书运营多痛点,如登录不稳、发帖链路长等,覆盖登录、发帖等全链路,适配多客户端,值得收藏上手。

小华同学ai
新闻资讯8

一年连融三轮,这家金融AI公司又拿下超3亿B轮

本文报道金融AI原生公司讯兔科技完成超3亿元B轮融资,过去一年已连续完成三轮融资,投资方覆盖险资、券商、头部创投等多家机构,文中介绍了讯兔科技在金融AI投研领域的落地成果与后续发展规划。

量子位
新闻资讯7

谷歌卷土重来:你大爷还是你大爷

上周谷歌横扫科技媒体头条,传闻Meta考虑换谷歌TPU致英伟达市值蒸发,过去一月其缩水6000亿,谷歌涨5000亿。此前被看衰的谷歌,发布Gemini - 3及三季报后强势回归,TPU外供挑战英伟达地位。

远川科技评论
开源动态8

华人学生立大功!新王Mamba-3直击Transformer死穴,推理效率碾压7倍

新一代开源架构Mamba-3发布,由CMU普林斯顿原班人马打造,15亿参数性能比Transformer高4%,长序列任务端到端延迟仅为其七分之一。它采用新设计哲学,推理优先,有三大核心技术,还能与自注意力层混合提升检索能力。

新智元