「流量入口」共找到 252 篇相关文章
Kubernetes环境中作业帮大模型服务流量调度优化实践
随着大语言模型应用渐广，Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案，整合成模型网关，具备五项核心功能，提升了资源效率、稳定性和易用性。
纳米 AI 梁志辉：超级搜索智能体是 AI 时代的真正入口
纳米AI梁志辉认为超级搜索智能体是AI时代真正入口。纳米AI推出的「超级搜索智能体」结合多Agent协作等能力，是新解决方案。演讲分享了360对AI搜索、智能体搭建及浏览器的看法与探索。
AI 推理精细化流量治理实战：RocketMQ LiteTopic 的“千人千面”流控方案
随着大模型推理服务成主流，传统消息队列限流机制在AI推理场景面临挑战。Apache RocketMQ 5.x推出LiteTopic，其精细化流量治理方案能实现‘千人千面’，解决队列头部阻塞和并发效率受损问题，还与阿里云百炼网关合作。
聚焦手机AI“超级入口”，中兴Nebula小模型让手机秒变“小秘”？
移动智能时代，手机AI“超级入口”成竞争焦点。美团率先推出AI Agent，中兴通讯自研Nebula-GUI模型表现亮眼，在测评中获佳绩，已在多款手机商用，还开发数据制备系统，经监督微调、双层强化学习提升性能。
Google AI搜索革命的代价：网站流量暴跌一半，内容创作者哭了
皮尤研究中心报告显示，Google的AI概览功能使网站点击率狂跌近50%，其扩张速度惊人。用户看到AI概览后倾向直接结束搜索，内容创作者流量和收入锐减。Google回应称研究数据有问题，且AI还存在幻觉隐患。
刚刚，千问杀入汽车座舱！阿里不止做超级APP，更要做超级入口
阿里AI助手千问被接入红旗汽车智能座舱，这是通用AI助手首次以完整形态登陆车载场景。千问能完成复杂语义理解和任务规划，还将拓展至更多硬件，阿里要把它打造成AI时代超级入口。
「纳米香蕉」LMArena两周500万投票，引爆10倍流量！谷歌、OpenAI扎堆打擂台
8月，「纳米香蕉」登顶LMArena文生图像榜单，带动社区流量暴增10倍，月活超300万。其盲测两周吸引超500万次投票。LMArena前身是Chatbot Arena，为大模型提供比拼舞台，厂商借此获曝光和反馈。
Stripe 的零停机数据转移平台以毫秒级流量切换迁移 PB 级数据
在旧金山 QCon 会议上，Stripe 工程师介绍零停机数据转移平台，能 PB 级数据库迁移，流量切换毫秒内完成，支持每秒 500 万次查询和 99.9995% 可靠性。还讲了迁移六阶段及多用途。
每周产业洞察｜校园母题与流量要素成为AI短剧行业的爆款公式
近期AI短剧行业数据亮眼，TikTok生态和国内市场规模惊人，但淘汰率也高。其有“校园母题+流量要素”爆款公式，AI降低制作成本，工具平台参与度加深，且用户画像向男性、游戏用户迁移。
王炸！模型越接越乱，2.9 万 Star OmniRoute 把 290+ 个 AI 供应商压成一个入口
现在接入AI工具麻烦，换模型要改配置，额度、接口等也有问题。OmniRoute是开源AI Gateway，将多家模型供应商统一到一个入口，支持290+ providers等，可解决接入混乱问题。