「大模型推理系统」共找到 9110 篇相关文章
实测DeepSeek V3.1，不止拓展上下文长度
文章实测了DeepSeek V3.1和V3，发现V3.1在编程、写作、翻译等方面有变化，如编程更全面、写作风格变文艺等。网友测试其在aider得分71.6%成非推理模型SOTA，但线上API有问题。
让LLM不再话痨，快手HiPO框架来了
当前LLM存在‘过度思考’困境，效率与成本矛盾突出。快手与南大合作推出HiPO框架，通过混合数据冷启动和混合强化学习奖励系统，让模型能自主决策思考模式，实验显示它提升了效率和准确率，还具强泛化性。
AI改造激光焊接检测！“过杀”率暴降50%，国际头部客户产线已用上
在第三届国际供应链博览会上，广州德擎光学科技的激光焊接在线检测系统展示了AI+先进制造检测落地效果。基于深度学习的AI检测模型，使焊接检测“过杀”率降50%，产线检测精度和效率提升，已用于国际头部客户产线。
CVPR 2026 | 从视觉Token内在变化量出发，实现VLM无损加速1.87倍
随着高分辨率图像与长视频处理需求增长，大型视觉语言模型推理效率成瓶颈。V²Drop从视觉Token内在变化量出发，采用多阶段渐进式剪枝策略，实现无损加速，在图像和视频理解场景表现卓越。
半年销量2000万+，宇凡微如何让AI模块“飞入寻常百姓家”？
芯师爷专访宇凡微品牌部总监张雨，探讨AI模块商业化前景。宇凡微展出多款AI模块，接入豆包大模型，有自研SAS系统等优势。其通过技术、市场等层面建护城河，践行“技术平权，快速量产”理念，未来向全场景方案升级。
AI Agents和Agentic AI有什么区别？
论文《AI Agents vs. Agentic AI》深入探讨AI Agent和Agentic AI的本质差异。AI Agents是集成大模型和外部工具的单体系统，适合简单任务；Agentic AI是多智能体协作新范式，适合复杂场景。还提及挑战、解决方案与未来方向。
田渊栋被裁后新offer排到法国！原来Llama 4.5训完后被卸磨杀驴了
Meta此次裁员引发诸多争议，工作超十年的田渊栋整组被裁。有说法称是因没做出基于Llama 3的推理模型，但田渊栋否认。Llama 4.5训练好后团队被裁，且后续还将裁风控部门。不过田渊栋获多家公司青睐。
Pixel 10『打样』AI手机：苹果、华为、三星差几年？
谷歌发布被称为“全球最AI的手机”Pixel 10系列，全新Tensor G5+端侧Gemini Nano带来AI领先。文章将其与苹果、华为、三星手机对比，分析各品牌AI功能优劣势，指出未来手机竞争是硬件、系统与大模型的综合较量。
一年拿下三轮融资！影目INMO正在鼻梁上“复刻”一个AI手机
影目INMO在一年拿下三轮融资，近5亿资金到位。其产品INMO GO3等表现出色，首发预订量可观。该公司专注轻量化一体式AI+AR眼镜，结合自研系统与智谱大模型，还拓展线下渠道，全球化布局也在推进。
天使轮数千万元融资，这家公司想成为 AI 时代用户的安全执行顾问
主打认知安全的缔零科技获数千万元天使轮融资，资金用于「缔零法则」技术迭代等。其产品以AI治理AI，降本增效。公司曾推「缔零智数」，现「缔零法则」把控模型推理。未来有ToC计划，想成用户安全助手。