「AI推理能力」共找到 11956 篇相关文章
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型,采用大规模 MoE 架构,优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化,对齐其推理系统性能,分享关键技术、不足与思考,还提及对 Qwen3 模型的优化策略。
AI 行业最新的 18 个前沿认知
文章整理了火山引擎AI领航者计划活动中,大厂、投资人和创业者对AI行业的18条前沿认知,涵盖模型层、应用层和产业层,如强化学习成竞争焦点、视频生成将崛起等,展现2026年行业新趋势。
TinyAI :全栈式轻量级 AI 框架
TinyAI是用Java实现的全栈轻量级AI框架,具有教育友好、模块化等特点。它分层设计,涵盖数学运算、神经网络等模块,支持多种模型架构与并行训练,还有智能体系统,可用于多领域,未来规划丰富。
字节即梦张楠:帮人类提升创造力,才是更有意义的「目标函数」
在极客公园IF 2026创新大会上,张鹏与字节跳动即梦张楠探讨人与AI等内容。还放映AI短片《老妈的心愿》,全程由AI创作。张楠介绍合作计划,谈及创作挑战、AI与人关系、Sora与抖音差异等内容。
2026:ASI奇点之年!
马斯克断言2026是奇点之年,称AI发展如超音速海啸。从AI编程能力提升、任务时长指数级增长,到‘品味奇点’概念提出,各方面迹象显示AI正深刻变革各行业。杨静与李建忠对谈探讨了ASI奇点相关话题。
10% KV Cache实现无损数学推理!这个开源方法解决推理大模型「记忆过载」难题
推理大模型推理时易现冗余问题,R-KV开源方法登场,显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余,还经多步骤压缩KV缓存,性能测试表现出色,适用多场景。
将 AI 注入 Java 应用程序
文章围绕将 AI 注入 Java 应用程序展开,以宇宙飞船租赁应用的聊天机器人为例,介绍如何用 LangChain4j 和 Quarkus 等 Java 框架与大语言模型(LLM)交互,还提及流式响应、结构化输出等功能及相关概念。
给 Agent 接搜索功能,有哪些「坑」需要特别注意?
搜索是AI产品标配,但给AI接搜索不易,给人用和给AI用的搜索差异大。信息检索质量影响Agent推理与任务完成度。邀请小宿科技相关人员聊给Agent接入搜索能力,10月30日20点线上闭门活动可扫码报名。
700多个「坏模型」喂出AI测谎仪?Anthropic审计神器让AI自曝黑料
Anthropic故意训练近700个「有问题」模型,训了LoRA适配器(IA)让模型自报家门。IA在AuditBench平均成功率59%,但也存在幻觉、成本高、训练分布无指南等局限。
HF Papers 直播| AI for Science 专场
由Hugging Face等联合发起的【AI Insight Talk】系列直播活动第三场聚焦AI for Science,将于2025年7月17日19:30 - 21:30开始。邀请多位热门论文作者,探讨科研智能体能力评估等问题。