「AI推理成本」共找到 11488 篇相关文章
AI版权侵权难以“定罪”？Copyright Detective：首个集成多范式检测的交互式版权取证系统
随着生成式AI广泛应用，版权纠纷成AI领域棘手挑战。张登辉等研究人员推出Copyright Detective系统，集成多范式检测，解决单一检测局限，为大模型文字版权风险提供全方位“体检”方案。
腾讯云与 Gartner 联合发布“Data+AI”白皮书，各行业领军企业分享最佳实践
6月27日，腾讯云联合Gartner发布《Data+AI，下一代数智平台建设指南》白皮书。指出GenAI时代数据变化大，腾讯云打造原生一体化Data+AI平台DIaaS，多位技术大咖分享其赋能企业数智化转型实践。
DeepSeek R1/V3作者开源轻量级vLLM，1200行代码读懂大模型推理技术！
DeepSeek R1/V3作者俞星凯开源轻量级vLLM——Nano - vLLM。它有快速离线推理、代码可读、含优化套件等特性，还给出了RTX 4070等硬件和Qwen3 - 0.6B模型的基准测试配置。
设计流程已死：Anthropic 设计负责人 Jenny Wen 谈 AI 时代的设计变革
Anthropic的Claude设计负责人Jenny Wen在Lenny's Podcast中谈AI时代设计变革。她指出传统设计流程被工程速度倒逼走向尽头，还分享在AI实验室做设计的感受、Co - work开发故事等，给出招聘设计师的标准。
无需训练，即插即用，2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention
高质量视频生成任务中，扩散模型成主流，但DiT模型注意力机制计算量大，成推理瓶颈。现有加速法效果不佳，为此美国东北大学等团队提出DraftAttention，可2倍加速推理且不损画质。
攻克大模型训推差异难题，蚂蚁开源新一代推理模型Ring-flash-2.0
9月19日，蚂蚁百灵大模型团队开源新一代推理模型Ring-flash-2.0，独创棒冰算法解决训推差异难题，实现稳定训练。该模型仅激活6.1B参数就能打平40B Dense模型性能，降低推理成本。
永别了，人类冠军！AI横扫天文奥赛，GPT-5得分远超金牌选手2.7倍
国际天文与天体物理奥赛（IOAA）中，GPT - 5和Gemini 2.5 Pro完胜人类选手。俄亥俄州立大学团队考察五大顶尖LLM，发现它们大多达金牌水平，但在几何、时空推理等方面有困难。
当AI应用都在「撒钱」时，谁来扛住千亿交互背后的算力大考？
春节将至，AI应用竞争激烈，各大厂商纷纷「撒钱」。行业预测除夕当晚主流AI应用交互量或破千亿次，考验底层算力。Remy爆火时，共绩科技助其扛住流量冲击，其弹性算力调度优势明显，适合春节流量洪峰。
Anthropic 发布第四份人类经济指数报告：AI 对全球工作的影响仍然不均衡
Anthropic发布第四份经济指数报告，提出“经济基元”概念，用五个基础指标衡量AI使用情况。报告发现任务越复杂，AI加速效果越明显，不同国家使用方式有差异，还提及“去技能化”等情况及对生产力的影响。
Tair 短期记忆架构实践：淘宝闪购 AI Agent 的秒级响应记忆系统
本文从淘宝闪购与千问合作的‘一句话点外卖’项目出发，介绍 Tair 在 AI Agent 记忆管理中的数据模型设计、压缩策略与并发控制等关键实践，展示其在低延迟、数据建模、并发安全和弹性抗压等方面的能力。