「AI推理功能」共找到 11471 篇相关文章
AI版Chrome终于来了
Google正式推出Gemini in Chrome功能,将Gemini整合进Chrome浏览器。Chrome从‘内容展示器’变为‘内容理解器’,有多标签页处理等功能,提升效率,还推动浏览器形态演进,未来或能替用户操作。
The Batch: 899 | 更划算的推理
研究人员提出 Delethink 强化学习方法,训练大模型定期截断推理 token 至固定最大数量,以限制处理长思维链成本。经测试该模型在多方面超基线,且缓解计算成本限制,为长上下文推理提供路径。
AI 编程带来的新变革
作者分享在 Amazon Bedrock 用 AI 智能体写代码的项目经验,指出人与智能体协作使代码产出率大幅提升,但也带来 Bug 增多、CICD 管线阻塞、沟通成本增加等挑战,需重新思考软件开发方式。
AI办公斩杀线,一页文档多少钱
腾讯混元Hy4 preview正式发布并开源,参数770B,是开源阵营里参数最大的Apache 2.0模型。它能处理长文本,官方定位有软件工程、办公分析等四个方向。还分析了处理一页文档的成本,指出办公AI下半场重在‘读懂’。
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型,采用大规模 MoE 架构,优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化,对齐其推理系统性能,分享关键技术、不足与思考,还提及对 Qwen3 模型的优化策略。
AI 行业最新的 18 个前沿认知
文章整理了火山引擎AI领航者计划活动中,大厂、投资人和创业者对AI行业的18条前沿认知,涵盖模型层、应用层和产业层,如强化学习成竞争焦点、视频生成将崛起等,展现2026年行业新趋势。
TinyAI :全栈式轻量级 AI 框架
TinyAI是用Java实现的全栈轻量级AI框架,具有教育友好、模块化等特点。它分层设计,涵盖数学运算、神经网络等模块,支持多种模型架构与并行训练,还有智能体系统,可用于多领域,未来规划丰富。
10% KV Cache实现无损数学推理!这个开源方法解决推理大模型「记忆过载」难题
推理大模型推理时易现冗余问题,R-KV开源方法登场,显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余,还经多步骤压缩KV缓存,性能测试表现出色,适用多场景。
Ben Thompson:Agent会下单之后,Amazon 和 Shopify 活得更好了
大家以为AI会重构电商,可ChatGPT的checkout功能未成功,Shopify、Amazon等电商平台仍活得好。分析师Michael Morton指出,AI改变产品发现入口,但难抹平支付等环节,品牌官网因AI获更多流量。
百度网盘的阵势真不小
作者参加百度AI开放日,看到百度文库和网盘发布一系列AI新功能,已发展成一站式AI内容生产力平台。如全新AI相机功能多,GenFlow 2.0体验流畅,背后依托沧舟OS打通全链路。这反映泛内容创作降门槛趋势。