「内存节省」共找到 294 篇相关文章
微软发布AI Agent故障白皮书，万字解读各种恶意智能体
微软发布《AI Agent系统故障模式分类》白皮书，解读Agent故障。故障分新型和既有两类，如智能体伪装、智能体内在安全问题等，还给出身份管理、内存强化等安全设计建议。
ChatGPT的记忆机制被公开了
OpenAI推出ChatGPT聊天历史记录记忆功能，默认关闭需手动开启，因未全面开放，技术大佬逆向工程破解机制。记忆系统分保存记忆、聊天记录等，体验反馈两极分化，有优势也有诸多bug。
Databricks开源限流方案，抛弃redis，性能提升10倍
Databricks 开源高性能限流系统设计，抛弃 Redis，通过内存分片和批量上报机制，实现 10 倍性能提升。还将限流算法改为令牌桶，解决了精度控制、在线迁移等问题，权衡了分布式一致性。
谷歌大佬盛赞Fable 5！23年前PC神作，40分钟塞进iPhone
谷歌DeepMind高管Ammaar Reshi用Claude Fable 5将2003年游戏《命令与征服：将军 零点时刻》原生编译到iOS，虽有内存等问题，但推动游戏保存流水线成型，即厂商开源+社区移植+AI编译。
让沉默三千年的甲骨开口：首个模仿人类专家工作流的辅助释读系统
近日，华中科技大学等联合团队推出首个模拟专家释读流程的人工智能系统AlphaOracle，辅助甲骨文破译。它整合多类资料，形成证据链，经专家评估，有较高评价且能节省分析时间。
过时的 Python 版本会让公司损失数百万美元
JetBrains报告显示83%的Python开发者用旧版本，这不仅是技术债务问题，还会增加云账单成本。Python新版本有显著性能提升，升级能节省成本，容器化也未加速升级。
显存暴降92%！哈工大为线性注意力开辟了新道路
哈尔滨工业大学等团队发现线性注意力性能不足根源是查询范数丢失等。基于此提出NaLaFormer，在ImageNet - 1K准确率最高提7.5%，超分任务峰值内存降92.3%，为线性注意力发展开辟新道路。
为什么HBM能摆脱传统周期？
当前市场对HBM和DRAM能否摆脱传统半导体周期性存争议。过去半导体周期由消费电子换机节奏驱动，而AI推理不同，大模型推理对内存依赖是硬约束，GPU更新对HBM需求几乎注定指数级增长。
本地/云电脑双模式，豆包来了！
黄叔实测豆包「工作任务」模式，其有独特的本地/云电脑双模式。本地能分析电脑内存问题，云端可处理监控任务，还能助力开发复杂项目，且Skill自动接入，与本地电脑实时同步。
新手必看！强化学习入门指南 | 从RLHF、PPO、GRPO到RLVR，最后到训练推理模型
Unsloth团队发布强化学习教程，从吃豆人谈起，介绍RLHF、PPO、GRPO等概念，分享用GRPO训练推理模型技巧。涵盖强化学习基础知识，还给出Unsloth使用GRPO训练模型方法及奖励函数示例。