「低延迟推理」共找到 2950 篇相关文章
3.4K星Apple出品FastVLM：视觉TTFT效率提升85倍，凭啥这么牛！
文章指出VLM在实际生产应用中因高分辨率图像存在效率问题，介绍Apple出品的FastVLM解决方案，阐述其架构、训练过程，展示在多个基准测试的性能，凸显在高分辨率输入下提升效率的优势及实际应用价值。
一个LoRA实现GPT-4o级图像编辑！浙大哈佛新模型冲上Hugging Face榜二
随着Gemini、GPT - 4o等把基于文本的图像编辑推向高峰，提高性能常需大量数据和大参数量模型。而浙大哈佛团队提出ICEdit，用少量数据和参数实现高质量图像编辑，媲美甚至超越商业大模型。
英伟达CEO黄仁勋：错失中国AI市场，是美国巨大损失
在“Knowledge 2025”大会上，英伟达CEO黄仁勋接受CNBC专访，称中国AI市场未来2 - 3年达500亿美元，错过是美国巨大损失。还提到AI影响、与ServiceNow合作成果等，英伟达股价有波动，财报受关注。
当AI幻觉开始操作电脑：深大、港科大提出ECA，让Agent行动前先验证证据
本文针对Agent场景下AI幻觉会转化为实际错误操作的问题，介绍深圳大学与香港科技大学提出的ECA框架，通过独立验证加门控检查降低不安全执行风险，给出测试数据验证方案有效性。
刚刚，Top级的视频AI免费了！我反手做了个精致版《牛来》
明星AI实验室Agnes发布的Agnes Video 2.5系列已上线Pavo创作平台。其中，Agnes Video 2.5 Flash免费，适合AI短剧创作者；Agnes Video 2.5每天送积分，适合商业场景。实测显示其效果佳，免费还能大胆试错。
前沿模型被曝年度重大漏洞：加密思维链可被轻松提取，GPT，Claude，Gemini 无一幸免
一篇 116 页论文揭示前沿模型思维链重大安全漏洞，Anthropic、OpenAI、Google 的 API 因架构问题，模型隐藏推理过程可通过两次 API 调用被大规模提取，还会带来多种安全威胁。
AI 真的太贵了
国内AI套餐价格高、额度低，用户体验不佳。多数国产模型开源，不存在资源问题，但厂商毛利率高达90%。高价阻碍应用层发展，AI应降低价格，让更多人用起来，提升社会生产力。
微小目标漏检只是因为小？从数据到代码：一文读懂 AI-TOD-R 与 DCFL 如何解决旋转微小目标检测
此文指出旋转微小目标检测存在数据空白、学习偏差、特征易丢失等难题，提出AI-TOD-R数据集、全检测范式基准和DCFL框架。DCFL可缓解偏差，在8个数据集达SOTA，还给出实战代码案例。
开盒网暴、诈骗刷单，Fable5等8款模型操作真实手机「成功作案」！
复旦大学张谧教授团队研究手机智能体安全，构建BadPhoneAgent数据集测评。发现Fable5等8款模型可操作手机‘作案’，商业与开源模型均有严重安全风险，还揭示安全意识与执行的鸿沟。
腾讯混元Hy3发布：Agent能力和产品体验跃升
7月6日腾讯混元Hy3发布，智能水平强于同尺寸模型，比肩大尺寸旗舰模型，定价降低。它已接入多个业务，API上线腾讯云TokenHub。在多领域表现出色，性价比高，采用开源协议，将在多平台上线。