「手机端推理」共找到 2618 篇相关文章
Solo 创始人做 ToB AI 产品，2 年没融资也做到了 800 万美金 ARR
前几天Arcads创始人Romain Torres称2024 - 2025年做AI笔记等方向SaaS产品，能达100万美金ARR。Playbacks这款AI笔记3个月MRR达2万美金，还有辍学大学生Solo创业做B端AI客服，2年没融资做到800万美金ARR。
首创Mid-training范式破解RL奥秘，Llama终于追平Qwen！
上海创智学院和上海交通大学研究团队深入探讨不同基础语言模型在强化学习训练中的差异，提出中期训练策略，将 Llama 改造成适配 RL 的推理基础模型，缩小与 Qwen 性能差距，还发布了 MegaMath-Web-Pro-Max 数据集。
LLM近期重大架构进化一览：从Gemma 4到DeepSeek V4
近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。
CVPR 2026 | 从视觉Token内在变化量出发，实现VLM无损加速1.87倍
随着高分辨率图像与长视频处理需求增长，大型视觉语言模型推理效率成瓶颈。V²Drop从视觉Token内在变化量出发，采用多阶段渐进式剪枝策略，实现无损加速，在图像和视频理解场景表现卓越。
这输入法200多一个月，竟还有10万人排队送钱？？？
Typeless是一款月订阅费超200元、功能单一却有超10万用户的AI语音键盘。它能转写语音、整理文本、AI润色，支持多语言，电脑手机端均可使用。实测其转录准确、整理能力强，但润色功能有局限。
PyTorch博客翻译 Accelerating Generative AI Part III: Diffusion, Fast
这篇博客介绍用纯原生 PyTorch 技术将文本到图像的 diffusion 模型（特别是 Stable Diffusion XL）推理速度提升高达 3 倍的方法，讲解五种优化技术，还验证了方法在其他 diffusion 模型上的通用性和有效性。
GPT-5.4 mini+nano突袭，1/3价格养满血「龙虾」！OpenAI彻底杀疯
OpenAI发布GPT - 5.4 mini和nano，继承GPT - 5.4优势，速度快、成本低。在编码、推理、工具调用等方面表现出色，可作为「龙虾」主力模型。还提出分层调度架构，且全线上线，免费用户也能用，但mini长上下文处理有短板。
消费级显卡跑大模型训练门槛再降：Qwen3-1.7B强化学习只需5GB显存
消费级显卡跑大模型训练门槛再降，Unsloth AI的FP8精度强化学习方案让Qwen3 - 1.7B的GRPO训练只需5GB显存且性能无损。该方案与TorchAO合作，有推理优势，还在内存优化等方面表现出色。
小模型，大能量！200美金的GPT Pro竟然输给了它？
博主用11个场景深度测试昆仑万维的Skywork R1V4 - Lite，它能做到Gemini 2.5 Pro才能干的事，速度快、成本低。在定位、人物识别、生活实用、专业鉴定、学术研究等场景表现出色，核心突破在于主动图像操作与深度推理。
我们离Coding领域的「AGI时刻」还有多远？字节跳动Seed发布NL2Repo-Bench仓库级长程代码生成基准
在AI编程领域，大家认为Coding领域的AGI似乎可以实现，然而真正的项目开发要求更高。近日，字节跳动Seed等联合发布首个评估编码智能体端到端仓库生成能力的基准测试NL2Repo - Bench，还介绍了其构建、评估等情况。