「AI推理加速」共找到 11290 篇相关文章
CUDA内核之神、全球最强GPU程序员？OpenAI的这位幕后大神是谁
AI圈聚光灯常聚焦明星人物，OpenAI一位工程师因编写关键CUDA Kernel引发关注，网友猜测是Scott Gray。他在Nervana开发maxas、maxDNN，加入OpenAI后开发块稀疏GPU内核并开源。
一文读懂DeepSeek-V3.2核心技术DSA：API疯狂降价性能不减的背后
DeepSeek发布实验模型DeepSeek V3.2，引入自研稀疏注意力机制DSA，API价格最高降75%。DSA先筛选后计算，含闪电索引器和稀疏多潜在注意力两组件，分四步工作，权衡了精确性与速度。
重磅！Claude Sonnet 4.5发布，可连续编程30小时，Claude Code同款构建工具也开放了
Anthropic发布Claude Sonnet 4.5，官方称是全球最强代码、复杂智能体构建及擅用计算机的模型。伴随产品全家桶升级，还开放Claude Code构建工具，发布Imagine with Claude。该模型能力强且更安全。
OpenAI 万字报告： 不要再卷Agent了~
OpenAI《How People Use ChatGPT》报告显示，73%的ChatGPT用途与工作无关，用户多将其用于实用建议、信息查询和写作。Asking对话占比及满意度更高，机会藏在人类惰性里。
PolarDB Supabase 助力 Qoder、Cursor、Bolt.diy 完成 VibeCoding 最后一公里
Vibecoding是开发者追寻的理想境界，但常被各种‘摩擦力’打断。PolarDB Supabase提供‘零摩擦’后端基础，通过MCP Server填平前后端断层，还能与Qoder、bolt.diy集成，提升开发效率，文末介绍其构建图数据分析应用方案。
最好的 DeepResearch 平替开源了
ROMA是元代理框架，以递归分层结构解决复杂问题，有并行问题解决、透明开发等优势。它通过计划 - 执行循环处理任务，介绍了安装选项、技术栈，还有预构建代理展示功能。
提速30倍，Meta重新定义了新一代RAG！
LLM时代，RAG成知识密集型任务标准范式，但处理长上下文时面临延迟高、内存贵问题。Meta超级智能Lab针对RAG特殊结构优化，提出REFRAG框架，有独特训练策略，实验效果显著。
过时的 Python 版本会让公司损失数百万美元
JetBrains报告显示83%的Python开发者用旧版本，这不仅是技术债务问题，还会增加云账单成本。Python新版本有显著性能提升，升级能节省成本，容器化也未加速升级。
华纳兄弟起诉Midjourney
Theverge消息，华纳兄弟起诉文生图平台Midjourney，称其AI工具生成大量侵犯版权的角色图像和视频，如蝙蝠侠、超人等。诉状列举侵权行为，提供对比案例，华纳希望获禁令并索赔。
调整训练数据出场顺序，大模型就能变聪明！无需扩大模型/数据规模
微软亚洲研究院提出全新文本数据组织范式DELT，通过引入数据排序策略，充分挖掘训练数据潜力，优化训练数据的组织方式，在不同模型尺寸与规模下都达到了良好性能，且不用增加数据量或扩大模型规模。