「真武810E」共找到 443 篇相关文章
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题，因错误使用`c10::Float8_e4m3fn`数据类型，未用硬件加速指令，通过软件调用致性能下降，现已修复，vLLM也应用此修复。
AI 真的太贵了
国内AI套餐价格高、额度低，用户体验不佳。多数国产模型开源，不存在资源问题，但厂商毛利率高达90%。高价阻碍应用层发展，AI应降低价格，让更多人用起来，提升社会生产力。
Pipeline MinerU真快不行了
文章聚焦Infinity-Parser，指出它把OCR从‘做识别’推进到‘做结构’。它采用layoutRL强化学习框架，结合真实与合成数据构建Infinity-Doc。跑分强且复杂结构表现优，透露Document AI向结构化生成转变趋势。
Dario Amodei真的很焦虑...
文章围绕Dario Amodei的采访展开，探讨AI多方面问题。他坚信计算要素假说，认为RL与预训练有相似规模化现象；预计一两年编码达AGI，十年内信心90%；谈AI盈利、算力采购、应用扩散等，还提及机器人革命和AGI定价。
百度网盘的阵势真不小
作者参加百度AI开放日，看到百度文库和网盘发布一系列AI新功能，已发展成一站式AI内容生产力平台。如全新AI相机功能多，GenFlow 2.0体验流畅，背后依托沧舟OS打通全链路。这反映泛内容创作降门槛趋势。
Claude「永久大脑」，真的来了！
著名AI追踪平台TestingCatalog爆出，Anthropic正为Claude测试「双模记忆系统」，包括「经典记忆」和「文件记忆」。此外，「梦境」预览版亮相，还有终极Agent平台Claude Conway登场，7x24h永不下线。
按token 计费，真的合理吗？
马克斯·普朗克软件系统研究所论文揭露，同样文本可被切分成不同数量token，用户难以验证是否被多收费。研究团队开发算法展示服务商多收费手段，还指出按字符计费可解决问题，但需行业达成共识。
AI PPT，这次是真不用返工了
过去AI做PPT虽快但有“幻觉数据”和“拼凑式模板”问题，被认为是高估需求。如今讯飞智文Vision Agent出现，能生成专业PPT，还解决了美观、内容等问题，将AI PPT带入2.0阶段。
阿里AgentBay揭秘，Agent Infra才是真护城河！
在云栖大会上，阿里云无影宣布Agent基础设施AgentBay重大升级，展示全新个人计算产品。它有完善能力，可调用云上资源。文章还阐述了Agent Infra的必要性、进化体现及成本优势，指出优化环境很重要。
微软：LLM上下文学习并非真的学习！
微软研究指出大模型上下文学习（ICL）虽数学上符合学习定义，但只是拟合prompt内统计规律，非掌握任务本质。通过大量实验，得出如例子越多模型表现越好、语言不重要统计重要等7条关键发现。