「高效注意力机制」共找到 1489 篇相关文章
不靠英伟达,中科院在国产 GPU 上跑通 76B 类脑大模型
过去大模型依赖Transformer和NVIDIA GPU体系,硬件自主化难。中科院团队提出类脑大模型SpikingBrain,在超长文本处理上百倍加速,在国产MetaX GPU平台稳定训练76B模型,开辟新道路。
OpenAI重组GPT-5「灵魂」团队!亚裔女负责人遭调离,罕见自曝AI幻觉祸首
OpenAI进行重磅结构调整,ChatGPT「模型行为」团队并入Post - Training,前负责人Joanne Jang负责新OAI Labs。同时,OpenAI揭秘AI产生「幻觉」的罪魁祸首是「应试」评估体系。
Jina Code Embeddings: 为高质量代码搜索而生的0.5B/1.5B向量模型
本文介绍了 Jina AI 开源的代码向量模型 `jina-code-embeddings`,含 0.5B 和 1.5B 规模,有 GGUF 量化版本。它性能顶尖,支持多任务与 15 种语言,还介绍了训练方案、使用方法等。
刚刚,Anthropic 成立了个 AI精神病学团队,正在招人
Anthropic宣布成立「AI精神病学」团队,作为可解释性研究一部分,将研究模型人格、动机等致其行为异常的因素。团队现正招聘研究科学家,不过此举措也引发争议。
强化学习也能预训练?效果可提升20倍,华人新作引爆RL新范式!
伯克利团队提出新方法InFOM,不依赖奖励信号,能在多任务中超强迁移与推理。在36个基于状态和4个基于图像的任务测试中,InFOM表现出色,在jaco任务上改进达20倍。
Anthropic 官方:Genspark 是如何构建 Agents 的?
Genspark借助Claude打造自适应AI Agents,突破传统搜索工作流限制。其Super Agent以Claude为核心,实现动态协调,变革用户创造和研究方式,带来显著商业影响,揭示AI开发新原则。
这款小众 AI 产品,真让我眼前一亮
AI笔记应用Granola获4300万美元融资,估值达2.5亿美元。它打破传统会议记录模式,发挥人和AI优势。其创始人分享创业和产品理念,探讨产品决策、用户反馈筛选等问题,还谈及旅行对直觉的影响及产品发展方向。
2w+ star,和claude对着干,牛皮!
Anthropic 给 Claude 生成文字添加水印,方式独特且难去除。`watermarks-remover` 项目应运而生,针对不同水印机制分层处理,兼容多格式文件,有多种安装使用方式,还明确告知能力边界。
20种机器人本体通吃!蚂蚁新一代VLA具身大脑刚刚开源了
2026 年具身智能 VLA 受关注,蚂蚁灵波发布新一代具身基座模型 LingBot-VLA 2.0,支持 20 种机器人构型,多方面能力提升,开源模型权重等,从架构、数据、后训练解决跨本体难题。
Transformer与RNN合体,谷歌打下显存门槛,解锁超长上下文
谷歌论文提出 Memory Caching 技术,通过架构机制创新赋予 RNN「可生长的记忆容量」,兼顾 Transformer 与 RNN 优势,能处理更长文本、降低推理资源门槛,实验显示有良好效果。