「AI推理成本」共找到 11687 篇相关文章
用完字节的火山 VikingDB，我都不舍得告诉别人
作者所在团队与字节跳动的VikingDB RAG产品合作研发墨问“知识库”功能。介绍了VikingDB的向量库、知识库和长期记忆库能力，对比传统数据库凸显其优势，还阐述了相关技术推动信息连接变革。
OpenAI反挖四位特斯拉、xAI、Meta高级工程师，目标星际之门
本周二消息，OpenAI从特斯拉、xAI、Meta等公司挖来四位工程师加入扩展团队，该团队负责“星际之门”项目，构建AI基础设施。此前Meta挖走多位OpenAI员工，OpenAI承诺正面交锋。
Gemini 2.5 Pro 负责人：最强百万上下文，做好了能解锁很多应用场景
谷歌DeepMind长上下文预训练联合负责人Nikolay Savinov在播客中分享Gemini 2.5长上下文技术。他认为长上下文能革新产品交互，与RAG协同，未来千万级token上下文将成标配，但当前百万级未达完美时扩规模意义不大。
仅2G内存可跑，刚刚，谷歌开源Gemma 3n，端侧原生多模态！
谷歌全面发布Gemma 3n，将多模态AI功能带入边缘设备并在Hugging Face开源。它原生支持多模态输入输出，针对设备端优化，内存占用低，采用开创性架构，Gemma系列质量也不断突破。
Sam Altman 人品再受强烈质疑：OpenAI被指控恶意窃取初创公司IYO品牌
5月22日OpenAI宣布进军AI硬件，收购Jony新公司“IO”。现IYO初创公司起诉OpenAI、Sam Altman等，称其恶意侵犯商标权，还列举过往接触证据。IYO产品受影响，提六项诉求索赔。
Agent全自动搭建代码运行环境，实时更新解决评测过拟合/数据污染问题｜微软
长期以来主流代码修复评测基准SWE - bench问题多，制约AI模型能力展现。微软发布SWE - bench - Live，引入新Issue，实现环境自动化构建与更新，打破传统局限，还揭示传统基准过拟合问题。
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
大模型 Token 究竟是啥：图解大模型Token
文章详细解释大模型Token概念，指出分词器会把文字切成Token，不同分词器切分结果不同。还介绍分词器的分词方法，通过统计文字出现频率打包成Token并编号，不同模型切分结果有差异。
135 个项目、七大趋势、三大赛道：撕开大模型开源生态真相，你会怎么卷？
在开发者大会密集登场之际，5月27日蚂蚁集团开源团队发布《2025大模型开源开发生态全景图》。展示135个项目、七大趋势、三大赛道，剖析开源生态现状与变化，揭示应用重塑和生态位博弈。
想搞好编程，得有点儿朋克精神
音乐传奇 Rick Rubin 提出 Vibe Coding 是编程界的朋克摇滚，即无需精通技术，凭想法和表达就能创造。他本人照片成该编程范式象征。不过 Vibe Coding 引发争议，有人批评也有人看好其未来。