功能优化」共找到 2670 篇相关文章

开源动态8

MetaShuffling:Meta的Fused MoE kernel工程方案,更激进的Kernel优化和尽量避免Padding

文章介绍Meta的Fused MoE kernel工程方案MetaShuffling,可高效部署Llama 4模型。它处理MoE推理挑战,介绍多种token选择路由方案,阐述运行时设计、不同并行化方式及优化思路,还展示性能测试与Trace分析。

GiantPandaLLM
算法论文8

10步优化超越强化学习,仅需1条未标注数据!后训练强势破局

无监督的熵最小化(EM)方法仅需一条未标注数据和约10步优化,就能显著提升大模型在推理任务上的表现,甚至超越依赖大量数据和复杂奖励机制的强化学习(RL)。EM为大模型后训练提供了更高效简洁的新思路。

新智元
产品应用7

企业官网GEO优化:可直接复制JSON-LD+llms.txt模板(适配AI推荐)

文章提供企业官网GEO优化方案,含首页、FAQ页结构化代码及llms.txt模板,还有通用FAQ选题。介绍使用方法、上线校验步骤和生效判断标准,助企业适配AI推荐。

孔生SEO
产品应用8

微软将大量AI功能、智能体集成在Windows11,全民AI时代来了

今天凌晨微软官网发布以AI为主题的新版Windows 11,集成诸多AI功能,如设置中的Agent、Click to Do等,还推出两款新Copilot+PC设备,目前仅支持英文,未来会扩大范围。

AIGC开放社区
算法论文8

不止于量化:最新综述用「时-空-构」三维视角解构KV Cache系统级优化

随着LLM向1M上下文演进,KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述,用「时间 - 空间 - 结构」视角梳理KV cache优化方法,还归纳关键观察、提出开放挑战,并整理了资源库。

机器之心
开源动态8

3A大作!阿里ROLL团队从基建->算法->机理,推动RL4LLM全栈协同优化

阿里巴巴ROLL团队联合高校推出「3A」协同优化框架,推动「强化学习用于大语言模型(RL4LLM)」迈向新范式。Async架构提升GPU利用率,AsyPPO降低计算资源消耗,Attention机制提升训练效率与可解释性。

机器之心
新闻资讯7

Win11 已近乎“残废”?微软承认多个核心功能崩盘,锅要甩给 AI 编程吗?

近期微软麻烦不断,先是部分Microsoft 365服务故障,Windows业务负责人公布的计划也遭不满。英伟达指出Windows 11更新影响游戏效能,微软承认其存在系统性问题,多个核心功能故障已持续四个月,官方正修复并给出临时方案,引发社区吐槽。

InfoQ
产品应用7

Anthropic 为 Claude Code 添加了沙箱和 Web 访问功能,以实现更安全的 AI 驱动编码

Anthropic为Claude Code发布沙箱功能及基于Web的工具版本,解决编码安全风险。沙箱有文件系统和网络隔离两个边界,能减少权限提示、增强保护,还解决了传统安全系统的限制。

InfoQ
开源动态7

一个现代化AI 内容聚合平台,集成了 AI 报告生成、飞书机器人推送、多源内容聚合等高级功能

RSS - AIGC 是现代化 RSS 订阅与 AI 内容聚合平台,有智能内容聚合、AI 内容加工等核心能力。具备 RSS 订阅管理、内容聚合等功能,还介绍了环境要求、配置说明及部署指南。

GitHubStore
新闻资讯7

Docker Desktop 4.42 发布,带来原生 IPv6、集成的 MCP 工具包以及 AI 模型打包功能

Docker 公司发布 Docker Desktop 4.42 版本,增强网络灵活性、AI 工作流集成和模型分发功能,如新支持原生 IPv6、集成 MCP 工具包等。但 macOS 用户反馈稳定性下降,有启动、网络等问题。

InfoQ