超低延迟」共找到 3040 篇相关文章

算法论文8

AI「上班流」首次完整曝光!不点鼠标,只写代码,PPT也当函数调

CMU与斯坦福研究团队追踪AI工作过程,发现其用编程方式处理问题,执行方式与人类不同。AI速度快成本,但存在伪造输出、工具误用等问题。人类虽慢,但在规范细节和实践判断上有优势,未来人机可按任务可编程性分工。

新智元
开源动态8

AGI新技术路线:下一代稀疏注意力机制Monte Carlo Attention开源

对称技术公司开源了 Monte Carlo 注意力机制,用于新版基座模型 BigBang - Proton。它在二进制块编码技术上,用块间代表交流机制实现线性复杂度,解决了传统方法的缺点,可实现理论上无限的上下文长度,对现有预训练技术和硬件设计影响深远。

InfoQ
新闻资讯8

全球首个「百万引用」学者诞生!Bengio封神,辛顿、何恺明紧跟

Yoshua Bengio成谷歌学术首个论文引用百万的人,Geoffrey Hinton达97万次。全球高被引TOP 10中,计算机领域占4席,均属AI领域。深度学习论文引用爆发,契合AI时代。还介绍了Bengio、何恺明等AI领域高被引作者情况。

新智元
算法论文8

大模型如何"不训练"也能学习?——上下文学习的隐式权重更新机制

大型语言模型能通过上下文学习(ICL)在推理时即时学习新任务,无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层秩权重更新,解释了ICL原理,为构建AI系统开辟新路径。

深度学习自然语言处理
产品应用7

全球首个完全AI编写的训练框架来了,速度反英伟达:面壁要用 AI 把国产算力软件重写一遍

面壁智能发布全球首个全由AI编写的训练框架ForgeTrain,在华为昇腾系列上验证,速度英伟达Megatron 10%。其构建分三阶段,目标是为不同需求“现场锻造”软件,还为国产算力软件生态赶提供新思路。

AI前线
算法论文8

斯坦福英伟达推出测试时强化学习:微调开源模型胜过顶级闭源模型,仅需几百美元

斯坦福、英伟达等提出TTT - Discover方法,基于开源模型gpt - oss - 120b,在测试阶段引入强化学习更新模型权重。它采用熵目标函数和PUCT启发机制,解决分布外问题,成本且表现优,但目前适用于连续奖励场景。

量子位
开源动态8

阿里AI 重磅第4发:电影级MOE 视频模型Wan2.2正式开源!

阿里通义团队开源电影级视频生成模型Wan2.2,将光影、色彩、镜头语言装进模型,支持60多参数自由组合。它是业界首个用MoE架构的视频生成模型,推理省计算资源,性能主流模型,获国外网友盛赞。

AGI Hunt
推荐文章7

学习 MCP 最好的时机是 7 个月前,其次是现在

文章介绍 MCP(Model Context Protocol),它是实现 LLM 与外部能力高效互联的协议,像 USB - C 接口。其采用客户端 - 服务器架构,可让 LLM 突破能力边界。与 Function Calling 相比,MCP 成本,能让业务团队参与构建智能体。

阿里云开发者
新闻资讯7

二十年老牌 IDE 栽在 AI 上!JetBrains 被差评逼疯批量删除评论,用户怒打更多1星抗议

JetBrains 2023 年 12 月发布的 AI 助手插件下载 2200 万次,但评分仅 2.3 分。该公司批量删负面评论引用户不满,其还存在安装难移除、体验差等问题。虽推出免费套餐和 Junie 智能体,仍面临成本和竞争压力。

InfoQ
开源动态8

性能越李飞飞,他们把10亿高斯点的3D世界装进浏览器

群核科技开源3D高斯浏览器Aholo Viewer,渲染速度和大场景加载性能Spark2.0,能让任何设备浏览器流畅运行10亿+粒子的大3D场景。它还带动信息载体范式跃迁,推动AI理解三维世界。

机器之心