「AI推理加速」共找到 11222 篇相关文章
半年研发、1周上线，1秒200行代码爆发？美团研发负责人：靠小团队奇袭，模型和工程能力突破是核心
美团基础研发平台工程效率负责人程大同在访谈中解答了美团 AI Coding Agent 产品 NoCode 的相关问题，包括模型性能优化、产品定位、用户画像、使用边界等，还谈及与 CatPaw 的关系及未来规划。
云计算一哥首度牵手OpenAI，大模型「选择」自由，才是终极胜利
亚马逊云科技宣布通过两大平台支持OpenAI新开源模型，还上线Anthropic最新模型Claude Opus 4.1。其早有战略布局，两大平台汇聚400+模型，践行‘选择大于一切’理念，满足多样需求，打造AI生态。
8个月晋升独角兽，欧洲版Cursor估值18亿美元
成立仅8个月的瑞典AI新星Lovable成独角兽，估值达18亿美元，拥有超230万免费活跃用户、18万付费订阅者。它用自然语言重塑编程，完成2亿美元A轮融资，付费用户首月留存率超ChatGPT。
OpenAI首席科学家：发布前夜，我们差点砍掉ChatGPT！5个你不知道的惊险内幕。
文章分享OpenAI最新PodCast内幕。ChatGPT最初名又长又没记忆点，发布前夜高层因测试结果存争议。上线炸服，还曾因RLHF问题成“马屁精”。未来AI将向智能体化发展，招聘看重好奇心等能力。
哈工大发布动画多智能体，文本一键生成连贯动画
随着多模态模型兴起，AI生成叙事性视频成热点，但现有方法处理长视频有挑战。哈工大发布AniMaker框架，由多个智能体协作，实现文本到动画自动化转换，解决了视觉连贯和叙事一致等问题。
编码封神，Gemini 2.5 Pro (I/O 版)视频秒转 App！网友：比 o3/Claude 强，Vibe 程序员集结！
谷歌 I/O 大会前，Gemini 2.5 Pro 预览版升级，重点在编码。它搞前端、做 UI 出色，能将视频变互动学习 App，推理速度提升。对标 GPT - 4.1 等，性价比高、表现优，获开发者好评。
拆解大模型几项核心操作背后的数学与 Infra 优化逻辑
文章拆解大模型核心操作（RMSNorm、Softmax、Causal Mask、Sampling）背后的数学与Infra优化逻辑。指出Infra优化是用数学等价变换或精度妥协换硬件利用率和推理速度，还介绍各操作原理、问题及优化方法。
3.6K Star！OpenCode 团队开源宝贝，模型价格、能力、规格一网打尽！
开发AI应用时，模型选择成难题，信息碎片化、不透明让人头疼。OpenCode团队开发的开源项目Models.dev，整合主流模型关键信息，可一站式查询、精确估算成本、对比能力，还提供公开API，社区驱动持续更新。
Qwen-Scope：看穿大模型的“小心思”
Qwen-Scope是基于Qwen3和Qwen3.5系列模型训练的可解释性模块，通过在隐藏层插入SAE提取可解释特征。它能分析模型行为、优化模型，应用于推理、数据、训练、评估等场景，可前往Huggingface或魔搭体验。
苹果新论文发出惊人一问：What do your logits know?
苹果AI研究团队提交论文《你的logits知道些什么？（答案可能会让你惊讶！）》，触及大模型底层逻辑及苹果看重的用户隐私与数据安全。研究通过实验揭示模型信息留存状态，指出存在隐私泄露隐患。