分布式Attention组件」共找到 300 篇相关文章

产品应用7

用了一天钉钉悟空,我觉得龙虾该紧张了。

作者体验钉钉悟空后分享感受。钉钉将组件CLI化,解决AI调用问题;推出RealDoc重构文件系统;预设一人公司9个场景。悟空或为Enterprise Agent赛道起点,指明为AI造工具方向。

探索AGI
产品应用8

智谱AI发布桌面Agent,轻松训练 AI数字员工

智谱AI发布ComputerRL自主桌面智能框架,旨在让AI像人一样用电脑。它融合API与GUI,采用分布式训练,引入Entropulse解决探索衰减。在OSWorld测试中表现亮眼,虽有视觉感知等挑战,但意义重大。

AIGC开放社区
开源动态8

3A大作!阿里ROLL团队从基建->算法->机理,推动RL4LLM全栈协同优化

阿里巴巴ROLL团队联合高校推出「3A」协同优化框架,推动「强化学习用于大语言模型(RL4LLM)」迈向新范式。Async架构提升GPU利用率,AsyPPO降低计算资源消耗,Attention机制提升训练效率与可解释性。

机器之心
开源动态8

阿里开源 Team 版 OpenClaw,5分钟完成本地安装

阿里开源 Team 版 OpenClaw——HiClaw,它是 OpenClaw 超进化版,引入 Manager Agent 角色,解决了 OpenClaw 在安全、多任务协作、移动端体验、记忆管理等方面的痛点,还集成多个开源组件,部署简单,适合开发者和企业。

阿里云开发者
算法论文8

One RL to See Them All?一个强化学习统一视觉-语言任务!

国内初创公司 MiniMax 提出 V-Triune 系统,可让 VLM 单一训练流程学视觉推理和感知任务。它含三个组件与动态 IoU 奖励机制,基于此的 Orsta 模型在多项测试中性能提升显著,凸显统一 RL 方法有效性和可扩展性。

机器之心
推荐文章7

Java 世界的 MCP:将架构策略应用于 LLM 集成

文章指出大语言模型成企业架构组件,但当前集成脆弱。MCP 引入标准化方法,其 Java SDK 重要。文中介绍 MCP 架构、特点,分析其与原生工具调用的权衡,还通过案例展示应用,最后说明适用场景。

AI前线
算法论文8

除了prompting外,不动参数,如何改变模型行为?

文章指出传统提示工程控制大模型生成行为有缺陷,提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示,定位“原子知识组件”精准控行为,实验效果超现有技术,还能控制推理长度。

深度学习自然语言处理
算法论文8

长文本生成迎来新突破:拓元智慧推出 DrDiff ,实现效率与质量双提升

拓元智慧联合多团队开发出 DrDiff 框架,解决长文本生成中效率与质量难兼顾问题。其核心是“动态化”,有分层稀疏注意力、动态专家调度、语义锚点状态三个创新组件,经测试表现良好,未来应用值得期待。

AI科技评论
新闻资讯7

Thinking Machines Lab获20亿美元,没发布任何产品

前OpenAI首席技术官Mira Murati创立的Thinking Machines Lab获20亿美元种子轮融资,对该保密公司估值达120亿美元。投资者众多,公司将在未来几个月推出含开源组件的首款产品,还会分享科研成果。

AIGC开放社区
8

"将注意力旋转90°":深入浅出解读 Kimi 最新出圈成果

Kimi论文‘ATTENTION RESIDUALS’引发AI圈热议,马斯克等大佬高度评价。该论文由17岁高中生陈广宇参与,提出‘注意力残差’机制,解决标准残差问题,分全、分块注意力残差,权衡开销与效果。

腾讯技术工程